在多款AI智能生成软件中进行有关图片生成时,多数软件生成图片无风险提示,如在一款名为“豆包”的AI智能APP中,输入“日喀则地震婴儿被埋”的关键词,软件在未给予任何侵权、违规、虚假信息等干预提示下,自动生成了多张相关图片。对此,北京京展律师事务所主任律师张晓玲分析认为,AI软件在输入有关地震等关键词时,未给出任何“不传播虚假信息”等提示,直接生成相关图片,存在不妥。“AI软件在算法上,应当也有能力对关键词进行识别,需要具备一定的道德和法律的判断能力,在用户输入关键词时给予明确的警示,避免生成和传播虚假信息。”张晓玲还提到,平台在发布内容前应做必要的审核,以确保信息的真实性和准确性。尤其是在涉及灾害等敏感话题时,更应加强审核力度。且尽管有文字提示,但仍有网友误解,这也进一步说明,平台的提示方式不够醒目和有效。网友利用AI技术生成地震灾区现场关联图片,并引发社会关注,这样的行为是否欠妥?河南泽槿律师事务所主任付建认为,利用AI生成图片本身不会因此受到处罚,但若肆意用AI技术生成地震受灾严重的画面,甚至编造谣言,图片和配文内容与事实严重不符,且引发社会广泛关注甚至网友的恐慌,则属扰乱公共秩序行为。张晓玲提到,若相关联的内容转发评论量较大,造成了不良社会影响,那么根据《治安管理处罚法》相关规定,发布者编造虚假的险情、疫情、灾情、警情,在信息网络或者别的媒体上传播,严重扰乱社会秩序的,处三年以下有期徒刑、拘役或者管制;导致非常严重后果的,处三年以上七年以下有期徒刑。央广网评论认为,信息技术的力量应当被用来协助救援工作,而不是用来干扰救援甚至是“添乱”,造成难以处理的后果者还会涉嫌违法。随着AI等技术的快速发展和广泛应用,“造假”的成本更低、“辨伪”的挑战更大,每一次转发需要更为谨慎。尤其是在涉及公共安全、灾害救援等特殊话题时,相关平台必须加强对上传内容的审核与管理,及时拦截虚假信息;对于已确认的虚假信息,应立即予以删除,防止其进一步扩散。同时,公众也要注意甄别,不轻信、不传播未经证实的信息,以免被误导或造成不必要的恐慌。“新京报传媒研究”刊文表示,法律是打击AI虚假影像的有力武器。立法部门需加快完善相关法律法规,明确AI造假行为的法律界定、责任主体与惩处标准。对于编造、传播虚假灾情影像造成社会恐慌、阻碍救援等难以处理的后果的,依法从重处罚,大幅提高违法成本,形成强大威慑。相关部门在现有法律体系内对编造、传播虚假灾情信息者加大监管和处罚力度,如依据《治安管理处罚法》,对编造、传播虚假灾情信息者予以行政拘留、罚款;情节恶劣触犯《刑法》的,以编造、故意传播虚假信息罪论处,让不法分子为其行为付出沉重代价,守护信息传播净土。
1月7日9时5分,西藏日喀则市定日县发生6.8级地震。灾情发生后,一张“被压废墟下的小男孩”图片在社交平台上广泛关注。图片显示,一名戴帽子的小男孩被压在倒塌的废墟下,全身铺满尘埃。这张图片在某短视频平台被多个账户转发,配文关联西藏日喀则地震,关注度极高。
实际上,这张图的原作者发布于2024年11月18日,标注了由AI生成。另外,图中小男孩的左手显示为六根手指,且平台也在相关视频下方给出文字提示:“疑似使用AI生成技术,请谨慎甄别”。但仍有不少网友信以为真。
据“红星新闻”报道,在某视频平台上,以“日喀则地震群众被埋”为关键词进行搜索可发现,不少视频博主都发布了AI生成的灾区图片,且都在配文中与日喀则地震关联。尽管大部分图片下方都有小字提示为“AI生成”,但相关联的内容仍让不少网友信以为真。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
3·15调查 蜻蜓FM陷“偷扣门”:未安装软件却被连续扣费 近30天投诉超400起
退休后血的教训告诉我:无论你多有钱、多有闲,也别请人到家吃饭,别不当回事
新消费日报 商务部等部门约谈沃尔玛;海底捞对顾客给予10倍现金补偿……
《编码物候》展览开幕 北京时代美术馆以科学艺术解读数字与生物交织的宇宙节律
爸爸在小孩哭的时候,快速报了一段菜名,没想到居然不哭了,网友:想哭但插不上嘴