4月19日，“全球最大规模选举”印度议会下院（人民院）选举正式拉开帷幕。在这个为期6周的马拉松式选举投票过程中，印度的不少选民或许能感受到一种全新体验——打开社交平台，“总理莫迪”会喊出选民名字，呼吁为他和他的政党投票。

这是人工智能（AI）技术在大规模选举中的最新应用。然而，随着这项颇受关注的新技术工具在政治舞台中发挥作用，有专家担心，几乎没有任何防护措施可以防止其被滥用，选民或许也将越来越难以区分真实信息和合成信息。

省钱又省力，AI助力印度选举

除了上述尚不清楚制作来源的印度总理莫迪的“数字人”形象出现在社交平台外，莫迪所在印人党的工作人员也正通过社交平台向特定的选民发送他们各自的虚拟人物视频，在视频中，“AI政客”向选民们介绍政府福利，并请他们投票。

据《纽约时报》报道，33岁的印人党成员拉托尔（Shakti Singh Rathore ）为了向尽可能多的人宣传莫迪的计划和政策，决定使用AI技术制作自己的“数字人”。

为此，拉托尔联系到了人工智能初创公司The Indian Deepfaker的经营者贾杜恩（Divyendra Singh Jadoun）。“只要看着镜头说话，就好像对方就坐在你面前一样。”贾杜恩对站在绿幕前准备录制的拉托尔说道。

在简单的信息采集后，贾杜恩获得了约五分钟的素材。运用开源AI系统和自己写的代码，贾杜恩把拉托尔录制的声音和图像逐帧分离，然后收集他的面部特征数据，包括脸部和嘴唇的大小以及目光。数据集随后被输入AI模型，学习预测面部模式。“需要不断地运行程序，微调面部，直到获得最佳面部（表情）。”贾杜恩说。

AI同时还对拉托尔的声音进行分析，学习其语音语调。贾杜恩介绍，通常需要6到8个小时的调整才能使“数字人”的脸部表情自然且嘴部动作与声音同步。剩下的工作基本上都是自动完成的。

此前，贾杜恩的九人团队一直在用AI生成宝莱坞演员头像，以此制作广告。而在今年早些时候，印度的政党和政客开始要求他为他们做同样的事，贾杜恩告诉《纽约时报》，在大约200个类似申请中，他接受了14个。

在语言多元的印度，这些AI生成的视频还可以消除障碍，自动生成为印度选民所使用的几十种语言中的任何一种，让竞选信息触达各类群体。AI聊天机器人也可以通过打电话的方式，以政治人物的声音和口吻与选民聊天，寻求他们的支持。

“过去，政党代表给选民打电话时，他们会挂断电话。但现在，当‘地方领导人’说出选民的名字时，就会立即引起他们的注意。”在拉托尔看来，将AI技术运用于政治宣传，将大大提高竞选信息的普及程度。

不仅如此，报道称，相较于传统竞选活动，这种新型的宣传方式所需的时间和资金都大大降低，未来它有可能成为选举中的重要工具。例如，贾杜恩的团队一天就能制作多达1万段视频，拉索尔告诉《纽约时报》，他花费了约 2.4万美元，通过（AI生成的）视频和电话联系了大约120万人，并获得了哪些人没有接听电话的信息。在他看来，这是对他所在的印人党的未来的投资。

担忧、监管与运用

不过，印度政府对待人工智能生成式内容的态度也并非全然开放。

去年11月，一段“莫迪”身着传统服饰、欢快跳着印度加尔巴舞的视频在网上疯传，莫迪曾亲自辟谣，称赞视频做得好的同时，对滥用AI技术伪造视频表示担忧，认为这可能引发一场大危机。

今年3月，据半岛电视台报道，随着涉及9.68亿合格选民的大选的临近，印度政府推出新举措，要求科技公司在公开推出“不可靠”或“未经测试”的AI模型或工具之前，须先获得政府的批准。此外，这些AI产品不应产生“威胁选举过程完整性”的结果。

《纽约时报》称，The Indian Deepfaker和印度另外两家人工智能初创公司的代表制定了一份名为“人工智能联盟宣言”的文件，承诺保护数据隐私和维护选举公正。例如，The Indian Deepfaker会在视频中标注“AI生成”，其聊天机器人也会标识自己是AI生成的声音。

然而，尽管有上述提示，印度28岁的度假村老板巴蒂 (Narendra Singh Bhati) 在接到“拉索尔”打来的AI电话后，仍未意识到这是一通AI电话，并对电话中个性化的内容留下了深刻印象。最后“我甚至向拉索尔先生说了再见”，巴蒂说。

公众面对AI生成内容的意识需要提高，而另一方面，监管政策也未能阻挡印度主要政党在竞选活动中使用AI技术生成可能产生误导的信息。执政的印人党与主要反对党国大党相互指责对方在网上传播与选举有关的内容涉嫌AI深度伪造。

《纽约时报》援引印度网络自由基金会（Internet Freedom Foundation）执行董事普拉蒂克·瓦格雷（Prateek Waghre）话说，人工智能监管问题值得注意，这项技术正在进入一个已经被虚假信息污染的媒体环境。

过去半年多来，世界各地的选举已几度成为人工智能热潮的试验场。去年底的阿根廷大选被一些媒体与学者视为“史上第一个AI选举”——总统候选人被制作成印第安纳·琼斯和捉鬼敢死队出现在选民眼前。今年美国新罕布什尔州初选期间，一些选民收到了敦促他们不要投票的电话，电话声音听起来很像总统拜登的声音，事后，民主党人称，是拜登的党内竞争对手用AI生成了“假拜登”电话以阻碍初选。在印尼，曾经的政治与军事强人普拉博沃（Prabowo Subianto）在竞选中用AI图像将自己重塑为“可爱的爷爷”。

而在此次印度大选中，AI生成式产品将展现出这项最新技术深入一个拥有近10亿选民的国家的政治选举中的可能性。这场4月19日开启投票的选举，将在6周内分7个阶段在全印约105万个投票站进行，直至6月4日公布最终结果。路透社等媒体报道称，选前民调显示，现任总理莫迪极有可能胜选连任，开启其第3个五年任期，追平印度开国总理尼赫鲁的任期纪录。