OpenAI近日发布报告，表示疑似中国政府人士使用ChatGPT协助不同項目，包括大规模监控、標簽化“高危”維吾爾人、抹黑香港社運人士及撰寫钓鱼內容等。
OpenAI 表示，事件顯示人工智能（AI）或被用作提升打壓效率，並揭示AI被威權政權濫用的狀況。
周二發報的報告指出，OpenAI在偵查到使用旗下Chatgpt進行恶意网络行为、有组织犯罪及隐蔽干預行动的事例後，均將相關帳戶關閉並公開事件。
報告列舉了不同性質的行為，中國成為事例最多的國家，此外，俄羅斯、韓國、尼日利亞、柬埔寨等亦有被提及。
中国驻华盛顿大使馆发言人刘鹏宇向CNN回應說，我们反对对中国进行毫无根据的攻击和诋毁。
他在声明中指出，中国正在加快构建具有鲜明国家特色的人工智能治理体系
，而体系强调发展与安全的平衡，突出创新、安全与包容性。
OpenAI的报告指，有ChatGPT用户要求AI协助撰写社交媒体监听工具设计的宣传材料，称可审视当中极端言论，以及涉及种族、宗教和政治的内容。
照片：Radio-Canada
支援大型監控系統
報告指出，疑似与中国政府机构有关联的个人，曾使用ChatGPT协助支援大规模监控，以及深入的社会标签化（profiling）行为。
例如有用戶声称为中国安全部门服务，要求設計社交媒体监听工具
，分析中西兩方社交媒体平台的数据。
另一用户則要求ChatGPT為一款社交媒体监听工具设计宣传材料。根據材料，工具能審視Twitter/X、Facebook、Instagram、Reddit、TikTok和YouTube，监测用户的极端言论
，以及涉及种族、宗教和政治的内容，被描述为一种社交媒体探针
。
高危涉维吾尔关注人员流入预警模型
另一名用户則要求ChatGPT撰写建議書，關乎一個高危涉维吾尔关注人员流入预警模型
。该建議書描述一种可分析交通预订信息，同時與警方记录比对的工具，以对被归类为涉维吾尔且高风险
人士的行蹤發出警報。
OpenAI指有ChatGPT用户要求撰写建议书，描述一个可分析交通预订信息，同时与警方记录比对的工具，以对涉及维吾尔且"高风险"人士的行踪发出警报。
照片：Getty Images / GREG BAKER
更有用户要求ChatGPT识别一个批评中国政府的X账号的资金来源，及找出一项蒙古请愿活动的發起人身份。
OpenAI表示未有應要求助用戶起底
，他們亦無從確認上述項目是否的確在籌建或已執行，但已把相關帳戶查封。
撰寫钓鱼內容專攻台湾半导体、美国机构及及异见人士
報告又稱，發現有人利用中文版本的ChatGPT来預備网络钓鱼行為，并开发恶意软件工具。
該批帳號的對象包括台湾半导体产业、美国学术机构与智库，以及与批评中共的族群和政治团体、又被称为五毒
（即爭取香港民主、西藏自由、台湾独立、指責维吾尔再教育營及法轮功成員被逼害）的组织。
報告指，在制作钓鱼内容时，該批帳戶會具体界定目标人群，生成一封简洁、正式且礼貌的电子邮件，伪装成学术、工商界或会议人员的身份，並調整語氣，配合特定地区常用术语。但報告指出，即使精細微调增加可信性，內容仍留下明顯破绽，如留下不可能的联系信息。
帖文抹黑黎智英、罗冠聪和周庭
OpenAI的報告又指出，一个规模较小的ChatGPT账户网络，又以人工智能生成内容，用於跨平台的认知干预行动（Covert Influence Operation）。
OpenAI的报告指，亦有用户要求生成诋毁香港社运人士如周庭等的社交平台言论。
照片：The Associated Press / Jae C. Hong
这些账户會以Chatgpt生成大量粤语帖文及评论，针对香港社會运动人物如黎智英、罗冠聪和周庭，发布在X和Instagram上。帖文内容或批评或贬損，旨在抹黑，将他们描绘为罪犯或叛徒。另也有帖文表达对香港国安法的支持。
報告又指，針對與中國有水域爭議的國家，有用戶以英文生成社交帖文，如抨击越南在南中国海造成的环境問題
、批评菲律宾总统马科斯（Ferdinand Marcos）的帖文等。
文章来源：加拿大国际广播电台
没有评论:
发表评论
注意：只有此博客的成员才能发布评论。