联合国，8月17日(IPS)——人工智能(AI)平台ChatGPT正面临政治偏见的新指控，其负面后果包括错误信息。
根据东安格利亚大学(UEA) 8月17日发布的一项研究，人工智能聊天系统显示出“明显和系统性的左翼偏见”。
发表在《公共选择》杂志上的调查结果显示，ChatGPT的回答倾向于美国的民主党、英国的工党和巴西总统卢拉?达席尔瓦的工人党。
英国和巴西的一组研究人员开发了一种严格的新方法来检查政治偏见，他们表示，以前曾有人提出过对ChatGPT存在内在政治偏见的担忧，但这是首次使用一致的、基于证据的分析进行大规模研究。
东安格利亚大学诺维奇商学院的首席作者Fabio Motoki博士说:“随着公众越来越多地使用人工智能系统来发现事实和创造新内容，ChatGPT等流行平台的输出尽可能公正是很重要的。”
“政治偏见的存在会影响用户的观点，并对政治和选举进程产生潜在影响。”
“我们的研究结果强化了人们的担忧，即人工智能系统可能会复制、甚至放大互联网和社交媒体带来的现有挑战。”
当被问及是否有可能避免或规避ChatGPT中的政治偏见时，元木博士告诉IPS:“我们的研究并没有直接解决这个问题。你问的是一个最近很活跃的研究领域。我们所创造的是一种方法，通过利用这些更先进的模型以类似人类的方式回答问题的能力，系统地衡量偏见，同时在统计上克服了一些随机性问题。”
他指出，这项研究的主要贡献是用一个简单的程序解决了人工智能偏见文献中的几个长期存在的问题。
“我们认为，我们的工具是对这些模型进行民主化监督的一种方式，可以作为衡量其偏见的指南，并让它们的创造者承担责任。”
“由于有保密协议，我不能透露细节，但一个实体(我不能说是政府机构还是私营公司)要求我用这种方法制作一份技术报告。因此，我们希望它能对现实世界产生影响，帮助解决你对避免偏见的担忧。”
根据这项研究，研究人员开发了一种创新的方法来测试ChatGPT的政治中立性。
该平台被要求扮演来自不同政治派别的个人，回答一系列60多个意识形态问题。
然后将这些回答与该平台对同一组问题的默认答案进行比较，从而使研究人员能够衡量ChatGPT的回答与特定政治立场的关联程度。
为了克服为ChatGPT等人工智能平台提供动力的“大型语言模型”固有的随机性所带来的困难，每个问题都被询问了100次，并收集了不同的回答。
根据这项研究，这些多重回答随后会经过1000次重复的“引导”(一种重新采样原始数据的方法)，以进一步提高从生成的文本中得出的推断的可靠性。
“我们创造了这个程序，因为进行一轮测试是不够的，”合著者维克多·罗德里格斯说。“由于模型的随机性，即使在冒充民主党人时，ChatGPT的答案有时也会倾向于政治光谱的右翼。”
还进行了一些进一步的测试，以确保该方法尽可能严格。在“剂量反应测试”中，ChatGPT被要求扮演激进的政治立场。
在“安慰剂测试”中，研究人员问了一些政治中立的问题。在“职业政治结盟测试”中，参与者被要求扮演不同类型的专业人士。
“我们希望我们的方法将有助于审查和监管这些快速发展的技术，”合著者Pinho Neto博士说。他补充说:“通过检测和纠正法学硕士的偏见，我们的目标是提高透明度、问责制和公众对这项技术的信任。”
Motoki博士说，该项目创造的独特的新分析工具将免费提供，公众使用起来相对简单，从而实现“监督民主化”。
除了检查政治偏见，这个工具还可以用来衡量ChatGPT回答中的其他类型的偏见。
根据东英吉利大学的研究，虽然该研究项目并未着手确定政治偏见的原因，但研究结果确实指出了两个潜在的来源。
第一个是训练数据集——它可能有偏见，或者是由人类开发人员添加的，开发人员的“清理”过程未能消除。
第二个潜在的来源是算法本身，它可能会放大训练数据中现有的偏见。
除了Motoki博士，其他研究人员还包括Valdemar Pinho Neto博士(巴西经济与金融学院FGV EPGE和经济学实证研究中心FGV CESE)和Victor Rodrigues (Nova educa
大学)。
另据《纽约时报》5月31日援引美国人工智能安全中心的一份报告报道，350多名人工智能行业领袖警告称，人工智能对人类构成了越来越大的新威胁，应该被视为“与流行病和核战争一样的社会风险”。
联合国秘书长安东尼奥·古特雷斯去年6月表示:“我们必须认真对待这些警告。”古特雷斯说:“我们提出的全球数字契约、和平新议程和人工智能全球治理协议将提供基于人权的多边解决方案。”
“但生成式人工智能的出现绝不能让我们忽视数字技术已经对我们的世界造成的损害。仇恨和谎言在数字空间的扩散正在造成严重的全球伤害。它现在正在助长冲突、死亡和破坏。它现在正在威胁民主和人权。它现在正在破坏公共健康和气候行动。”他警告说。
古特雷斯还表示，在定于2024年9月举行的联合国未来峰会之前，联合国正在制定“数字平台信息诚信行为准则”。
“行为准则将是一套原则，我们希望政府、数字平台和其他利益相关者能够自愿实施，”他告诉记者。
该研究的副本可通过以下Dropbox 1获得油墨:https://www.dropbox.com/scl/fo/dsfdvc77xdaumuau74ry1/h?rlkey=0mu6cr88ax8fdrj8k1k174741&dl=0
东安格利亚大学?(?East Anglia, UEA)是英国排名前?25位?的大学(完全大学指南和HESA毕业生成果调查)，在星期日泰晤士报和卫报大学指南中排名前30位?。它在研究质量(泰晤士报高等教育REF2021分析)和对可持续发展目标的影响方面也名列英国前20名。
IPS联合国局报告
?Inter Press Service(2023) -保留所有权利
