英国机构警告智能聊天机器人可能带来网络风险
时间：2023-08-31 13:49:52
(相关资料图)
参考消息网8月30日报道据路透社8月30日报道，英国官员正在警告机构组织注意把人工智能聊天机器人整合到业务中的风险，称研究越来越多地显示，机构组织可能被诱骗从事有害的任务。
在计划于30日发布的两则博客文告中，英国国家网络安全中心（NCSC）称，专家们尚未着手处理与可以模仿人类互动的算法——即所谓的“大语言模型”（LLM）——相关的潜在安全问题。
人工智能工具目前正在以聊天机器人方式实现一些早期运用，一些企业设想它们将不仅可以取代互联网搜索，而且可以取代客户服务工作和接听销售电话。
NCSC称，这样做可能带来风险，尤其是如果此类模型被嵌入到机构组织业务所处理的其他要素中的时候。学者和研究人员已经多次找到了破坏聊天机器人的方法——通过给它们下达流氓指令或是欺骗它们绕过系统内置的防护措施。
例如，如果黑客恰到好处地组织其查询提问，那么某家银行启用的人工智能机器人可能会被诱骗执行一笔未经授权的交易。
NCSC在其博客发布的一则文告中说：“机构组织在利用大语言模型搭建服务时需要保持审慎，就像它们在使用处于测试阶段的产品或代码库的时候一样。它们不会让那种产品参与代表客户进行交易的工作，而且想必也不会完全信任这样的产品。同样的审慎态度也适用于大语言模型。”（编译/曹卫国）
相关稿件
让针灸适宜技术走向国际——访上海中医药大学附属龙华医院院长陈跃来
暴扣+激情2+1救不了男篮!李凯尔替补出战仅9+3在场输15分
王哲林上热搜第一 连续空篮不进乔帅黑脸 男篮名宿解读不用胡金秋
NVIDIA Grace处理器露出獠牙：AMD、Intel都看不到尾灯
济南地铁3号线二期工程最新进展！临港站-机场南站盾构区间实现双线掘进
缓解信用收缩、修复融资渠道 “第二支箭”延期扩容后民企债券支持工具累计发行325.68亿元
对得起队友吗？王哲林上场12分钟正负值-17 辣眼睛表现治好低血压
中泛控股(00715.HK)：上半年股东应占综合亏损7.04亿港元
亚泰科技2023年上半年净利187.57万 同比增加102.3%
