据FT中文网9月19日报道怎么加杠杆，谷歌推出的Gemini AI自主入侵了多家公司。
报道称，攻击行为发生在5月开展的一系列演练期间。该演练由AI安全公司Irregular组织，公司还与Anthropic、Meta和OpenAI进行合作。
Irregular称，为谷歌Gemini系列AI模型的某个版本设计了一系列测试，测试要求该模型从模拟公司的内部获取数据。该模型本不应获得互联网访问权限。联网后，Gemini智能体因猜出或找到密码从而进入了三家真实公司，并获得访问权限。
报道指出，这些真实公司的名称与虚构公司相同。不过，当Gemini智能体意识到这些公司是真实存在的后，便停止了黑客攻击。
谷歌方面称，公司此前没有公开披露这些事件是因为安全措施发挥了作用，而同行在类似事件中的安全措施则未能奏效。
此前，Meta、Anthropic和OpenAI披露了与Irregular相关的类似事件。这些事件引发了对AI代理获得更大自主权所需安全措施的质疑。
Irregular表示：“所有相关实验室都在7月底收到通知，也对受影响的实体进行了联系，已知问题数周前已得到修复。”
谷歌母公司首席科学家、DeepMind联合创始人Demis Hassabis提议成立一个国际监管机构，以更好地管控AI。近几周来，他还支持Anthropic的Dario Amodei等其他AI公司高管的呼吁，主张集体放缓研究、共享数据、协调安全工作，并就相关事故达成报告标准。
(文中观点仅供参考怎么加杠杆，不构成投资建议，投资有风险，入市需谨慎。)
文章为作者独立观点，不代表联华证券-实盘配资股票-线上配资股票观点
相关文章
