英国《金融时报》的一篇报道称，全球政策制定者对人工智能产生的虚假信息可能被滥用，以操纵选民，并在2024年重要选举之前加剧分歧表示担忧。
这种担忧的焦点已经在孟加拉国成为现实，这个拥有1.7亿人口的国家将于2024年1月举行大选。到目前为止，竞选活动的特点是现任总理谢赫·哈西娜和她的竞争对手之间有争议的权力斗争。
据报道，孟加拉国亲政府和亲反对派的新闻媒体和有影响力的人都在推广人工智能产生的虚假信息，尤其是使用美国和以色列人工智能初创公司提供的负担得起的工具制作的深度虚假信息。
这一趋势凸显了在美国大型科技公司可能忽视的较小市场中控制此类工具的使用所面临的挑战。
《金融时报》的报道援引孟加拉国媒体研究公司digital Right董事总经理Miraj Ahmed Chowdhury的话说，虽然人工智能生成的虚假信息目前处于试验阶段，但人工智能工具的使用允许大规模生产和传播虚假信息，并构成重大威胁。
英国《金融时报》列举了一些出于政治动机的深度造假或假视频(通常采用新闻剪辑的形式)是利用洛杉矶人工智能视频生成器HeyGen等工具制作的。该工具使用户能够以每月24美元的价格制作以人工智能头像为特色的剪辑。
在即将到来的选举之前，虚假信息加剧了孟加拉国本已紧张的政治气氛。
尽管人们呼吁采取行动，但面对这些视频的虚假性质，科技平台表现出了冷漠。
识别此类虚假信息的主要挑战还在于缺乏可靠的人工智能检测工具，特别是对于非英语内容。
Tech Global Institute创始人、前meta高管Sabhanaz Rashid Diya指出，主要科技平台提出的解决方案主要集中在监管政治广告中的人工智能上，在孟加拉国这样的国家可能效果有限，因为广告在政治传播中发挥的作用较小。她强调，平台和当局缺乏监管和选择性执法加剧了这一问题。
Diya还强调了一个更大的威胁:政客们有可能利用深度造假的潜力来诋毁信息。
每当受到质疑时，政治家就可以轻松地将真实的新闻声称为深度假新闻或声称“这是人工智能生成的”，这增加了一层混乱，挑战了人们区分真假的能力。随着人工智能生成的内容被武器化，尤其是在全球南方，挑战在于如何解决它如何侵蚀公众对信息的信任。
