(资料图片仅供参考)

虚构新闻、换脸诈骗、伪装声音……AI在提供科技便利的同时，也带来了风险。

近日，一张五角大楼附近地区发生爆炸的图片在社交媒体上疯传。图片开始在推特上流传的瞬间，美国股市出现了明显下跌。随后美国国防部发言人证实，这是一张由AI生成的虚假图片。数据显示，仅在2022年，美国就发生了240万起AI相关诈骗案。在生成式AI风险逐步显露的情况下，多国计划出台监管措施。中国国家网信办则已在4月发布了《生成式人工智能服务管理办法》草案，将对相关内容限制监管。