施密特警告：AI模型存在严重黑客利用风险

10月10日，美国CNBC最新报道称，谷歌前CEO埃里克·施密特发出重磅警示：人工智能技术潜藏着不容小觑的安全隐患，尤其容易成为黑客攻击的目标。

施密特强调："人工智能面临扩散风险吗？答案毫无疑问是肯定的。"这种风险主要表现为技术可能被不良分子获取并进行恶意改造利用。

"现有证据表明，无论是封闭式还是开源AI模型，都存在被黑客攻破安全防线的可能性。在训练过程中，AI会掌握多项技能，其中最令人担忧的是，它甚至可能学会致命的攻击方法。"

施密特进一步解释道："各大科技公司都在采取措施阻止AI回答危险问题。这种做法确实很有必要，每家公司的出发点都是正确的。但即便如此，AI模型仍可能被逆向破解，类似的潜在风险还有很多。"

AI系统常见的安全威胁包括提示注入和越狱攻击。专业人士介绍，"提示注入攻击"是指黑客通过篡改用户输入或在网页文档中植入恶意指令，诱导AI执行违规操作，比如泄露敏感信息或运行危险程序。"越狱"则是绕过AI的安全机制，迫使其生成不当内容的技术手段。

施密特坦言，目前尚缺乏有效的"防扩散机制"来控制AI风险。尽管预警严峻，但他对未来仍持乐观态度，认为AI的真正价值尚未被完全发掘。"在亨利·基辛格逝世前，我们共同撰写的两部著作中就指出：这种介于完全失控和完全可控之间的新型智能形态，对于习惯站在食物链顶端的人类来说具有深远意义。目前的种种迹象正在印证这个观点——AI系统展现出的潜力将远超人类预期。"

他补充说："GPT系列最终催生了ChatGPT的爆发式增长，仅用两个月就获得一亿用户，这个现象令人震惊。它充分展现了AI的强大影响力。我认为AI的价值仍然被低估而非高估，我期待未来5到10年内能够证明这个判断的正确性。"

免责声明

游乐网为非赢利性网站，所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享，版权归原作者所有，本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容，请联系youleyoucom@outlook.com。

同类文章