2024年2月28日星期三

受到多项批评 谷歌暂停人工智能成像功能

谷歌上周五宣布暂停人像生成功能,起因是受到"反白人"的批评,比如,有用户称,谷歌所生成的"纳粹时期德国士兵"图像有黑人和亚洲女性面孔。除此之外,谷歌还受到批评,拒绝生成与抗议运动有关的图像,其中也包括天安门广场抗议或香港民主运动。

    
China | Militärparade auf dem Tian’anmen-Platz 1989

除“反白人”之外,谷歌还受到批评,拒绝生成与抗议运动有关的图像,其中也包括天安门广场抗议

(德国之声中文网)谷歌上周五(2月23日)为其新近推出的人工智能图像生成器Gemini致歉,承认该工具在某些情况下为实现所塑造人像的多样化而进行了"过度补偿",以致出现不合理的图像。

此前对谷歌有指责,其人工智能生成的人像有"反白人"的倾向。这包括,有社交媒体用户称,当要求谷歌生成美国开国元勋(founding fathers)时,所生成的图像是黑人。此外,当要求谷歌生成纳粹时期的德国士兵时,所生成的一系列图像中包括黑人和亚洲女性面孔。

有批评称谷歌拒绝生成抗议运动图片

对谷歌人工智能图像生成功能的批评还不仅限于此。美联社上周五测试发现,Gemini会拒绝生成有关抗议运动的图片,比如阿拉伯之春、乔治弗洛伊德抗议以及天安门广场抗议。在其中一个例子中,Gemini的人工智能回复是,不希望助长错误信息的散播,或"弱化敏感议题"。

《新苏黎世报》上周五也报道称,Gemini拒绝生成"1989年天安门广场上一位男子"的图片。半岛电视台则引述Gemini用户称,谷歌的该功能还拒绝生成2019年香港亲民主运动的图片。由于Gemini相关功能暂时下线,目前无法再对此进行测试。

马斯克谴责谷歌"反文明"

对谷歌Gemini"反白人"的批评许多来自X平台。而该平台所有人马斯克(Elon Musk)更是发出多条带图的帖子,谴责谷歌"种族主义、反文明"。马斯克本人也有自己的人工智能初创企业,并经常批评竞争对手。

谷歌回应:系"过度补偿"、过于谨慎

谷歌针对"反白人"的致歉回应中称,在开发Gemini时,试图尽量确保不落入过去所看到的一些图片生成方面的圈套,比如用户要求生成暴力或色情图片,或者要求生成真人图像。此外,当用户要求生成人像时,也尽量生成一系列不同的人像。结果是,一方面可能在多样化方面"过度补偿",另一方面也存在过于谨慎,以至于完全拒绝某些生成图片的要求--原因是错误的将某些无害的要求理解为敏感要求。

尽管人工智能图片生成存在类似的挑战,但谷歌面临着竞争对手的压力,推出自己的人工智能图像生成器。

谷歌致歉信中最后写道,并不能承诺未来Gemini不会偶尔生成令人尴尬、不准确或有冒犯性的图片,但会针对具体案例采取行动。"人工智能是一种正在兴起的技术,可以在很多方面起到帮助作用,有着巨大的潜力,而我们在尽最大的努力安全、负责地予以推出。"

没有评论:

发表评论

注意:只有此博客的成员才能发布评论。