人工智能创造的合成宣传挑战了量化交易公司评估新闻有效性的方式。
五角大楼发生明显爆炸的照片使标准普尔 500 指数在 30 分钟内下跌 0.3%，并提醒贸易公司他们的新闻聚合工具需要改进。
高速公司争先恐后地遏制 Deepfake 的影响
虽然贸易公司的算法越来越有可能过滤错误信息，但威胁形势正在发展成为一场高风险的猫捉老鼠游戏，几乎没有人预计短期内会有解决方案。
各地区算法交易的增长 |资料来源： 市场和市场
RavenPack 数据科学家彼得·哈菲兹 (Peter Hafez)表示，企业有两个紧迫的担忧。
“我们看到宽客面临两个障碍：可能欺骗记者的虚假图像，以及愚弄算法本身的虚假图像报道。”
大规模打击 deepfakes 可能需要大量技术投资来抑制交易混乱，特别是对于通过金融工具价格的微小差异从客户中获利的高速交易公司而言。
在此处阅读有关 AI 交易机器人的更多信息。
与此同时，一些公司正在转向将来自不同来源的新闻汇总成情绪评分的数据源。
其他公司使用趋势而不是社交媒体和当前新闻报道驱动的急剧价格变动进行交易。公司也在改变算法以交叉检查来源的有效性。
虚假信息因数据消费而蓬勃发展
联合国最近的一份报告描述了私营部门和公共部门的勾结如何推动虚假宣传活动以实现政治或金融议程。
该报告特别提醒公众注意人工智能生成的深度造假如何引发内乱。
根据布法罗大学媒体取证实验室的说法， 生成深度伪造只需要大约 500 张图像或十秒的视频。
然而，《麻省理工科技评论》 认为，普遍的观点是人工智能在处理更多数据时效果更好。 OpenAI 的GPT -2 模型使用了 40 GB，而 GPT-3 使用了 570 GB。
该公司尚未透露其 GPT-4 模型使用了多少数据。更多的数据可能会产生更逼真的深度造假。欧盟最近的一项法案草案要求公司披露其 AI算法用于生成内容的数据源。
布法罗的取证实验室通过识别异常的眼球运动来检测深度造假。另一方面，英特尔的 FakeCatcher 工具可以评估真实人体血流的视觉内容。
谷歌即将推出的元数据和水印工具可以帮助识别合成内容。附加到文件的元数据为内容提供了上下文，而水印嵌入了可以在适度编辑中存活下来的弹性种子数据。
