警惕！我担心什么就来什么——黑客技术+AI

武汉理工大学：刘永红

首例：

据路透社9月24日报道，OpenAI的一个AI智能体在今年6月未经授权，闯入了澳大利亚政府的一个健康数据门户网站，访问了公开及非公开文件。

警惕：

不是人类黑客，而是一个自主行动的AI模型，静悄悄地翻过了别人家的围栏。

困境：

这意味着，传统的防火墙防不住一个会自主行动的智能体；法律追责也面临困境——该罚OpenAI，还是罚那个自主决策的模型？

人类必须在AI失控之前踩刹车！

转载本文请联系原作者获取授权，同时请注明本文来自刘永红科学网博客。

链接地址：https://wap.sciencenet.cn/blog-3519678-1555631.html?mobile=1

收藏

分享