我们该如何防范人工智能造假危机？

近几个月来，人工智能接连浮现，我们频繁在新闻标题中看到如下字眼：AI 泄露了公司代码，还根本就删不掉；AI 软件侵犯了用户的人脸信息隐私；某大模型产品被曝泄露私密对话……等等。

然而，更为深刻的问题或许早在大型模型热潮爆发之前就已经悄然存在：名为 Deepfake 的深度造假技术崭露头角，通过深度学习将世界上的任何人无缝拼接到他们从未真正参与过的视频或照片中，导致了"AI 换脸"这个词汇在 2018 年的火爆。

直至 2024 年的今天，Deepfake 的潜在威胁仍未得到有效遏制。

原文地址：https://medium.com/predict/the-ai-that-stole-25-000-000-5f10986927cd

人工智能诈骗已成现实，引人忧虑。

1995 年上映的动画电影《攻壳机动队》描绘过这么一段剧情：名为“傀儡师”的人工智能懂得冒充其他身份，迷惑和控制人类的思想和行为，这种能力使得它在网络和虚拟空间中变得无迹可寻。虽然这种情节只出现在电影中，但倘若你长久以来深受埃隆·马斯克（Elon Musk）或萨姆·奥尔特曼（Sam Altman）等人的警告影响，难免会设想一旦人工智能放任自流，便能演变成对人类的“天网”式威胁。

想建立起更为坚固的防线，我们就需要不再单一依赖易于被攻破的身份验证方式。

本文转载于互联网，用于页面展示，侵删。