及时治理“AI污染”

2024年10月23日| 浏览:4077次| 字体: 小中大

有机构利用人工智能程序日产上千篇虚假新闻，导致大量不实信息在网上病毒式传播；某小说平台账号依靠AI“创作”，每日更新十几本电子书，行文却逻辑不通、辞藻空洞；医学论文因使用AI生成的虚假配图而被撤稿……当前，AI生成、伪造或篡改文本、图片、音频和视频的现象越来越普遍，大量粗制滥造、真假难辨的“信息垃圾”，引发了关于“AI污染”的讨论。（据10月22日《新华每日电讯》）
在科技日新月异的今天，人工智能（AI）以其强大的数据处理和生成能力，正得到广泛应用，渗透到生活的方方面面。然而，一些由AI“创作”的内容，缺乏真正的创意和深度，行文逻辑混乱，辞藻空洞无物，甚至于存在胡编乱造、伪造新闻的情况，却凭借强大的算法推荐和社交媒体的传播力，迅速在网络上病毒式扩散，不仅污染了信息环境，降低了信息的质量和价值，还加剧了信息过载和选择困难的问题。在海量且真假难辨的网络信息面前，人们往往感到无所适从，容易被虚假信息误导、蒙骗，还会产生焦虑和恐慌情绪，甚至被虚假信息“绑架”，沦为被别有用心的人利用的工具。“AI污染”对青少年的价值观和行为模式，也会产生负面影响，引导他们走向错误的信息消费和创作道路。
近期曝光的“成都天价拆迁”造谣事件，便是由AI软件生成的典型虚假新闻。如今，世界已进入数字信息“眼见不一定为实，耳听不一定为真”的时代，声音、视频、图像等多模态AI“深度伪造”内容的出现，营造出越来越多的虚假信息迷雾，有数据显示，2023年AI深度伪造欺诈激增30倍。面对“AI污染”这一新挑战，需要采取有效措施及时治理。
要加强法律法规建设，明确AI在内容创作和传播中的法律地位、责任边界，对利用AI进行虚假信息传播和欺诈的行为进行严厉打击。监管部门尽快完善AI创作标准，明确使用AI生成技术创作的内容，必须在显著位置予以标注，并采取区块链等可追溯技术，一旦出现虚假内容、违规行为，则依法予以严惩。
“用技术对抗技术，用魔法打败魔法”，要加快探索应用AI新技术应对AI虚假信息，实现高效识别、预防拦截、追根溯源等，让AI虚假信息无处躲藏。要提高公众的信息素养和辨别能力，教育引导如何识别AI生成的内容，避免被虚假信息所误导。要鼓励和支持高质量的AI内容创作和应用，推动AI技术与人类智慧的深度融合，共同营造一个健康、有序的信息生态环境。

作者：江德斌
编辑：贾慧娟
审核：文成锋

上一篇：智算中心建设不可盲目跟风

下一篇：科普人才迎来新的“春天”