本文建立的人工智能模型可以改善生活,帮助解决复杂的挑战,但我们知道,威胁行为者有时会试图滥用模型来伤害他人。这包括滥用模型来支持秘密影响力作战(IO)的人。应对这些威胁需要许多学科和组织的共同努力。OpenAI 致力于在破坏 IO 和威胁情报共享方面发挥自己的作用。

本报告调查了威胁行为者利用OpenAI产品进一步开展隐蔽在线 IO 的活动。将此类行动定义为 “在不暴露幕后行动者真实身份或意图的情况下,试图操纵公众舆论或影响政治结果的欺骗行为”。其中一些行动已广为人知;另一些行动则是OpenAI发现的。虽然OpenAI观察到这些威胁行动者使用OpenAI模型进行了一系列 IO,但他们都试图欺骗人们,让人们不知道他们是谁或他们试图达到什么目的。

调查显示,虽然这些行动背后的行动者试图使用我们的模型生成内容或提高生产力,但这些活动似乎并没有因为使用我们的服务而有意义地提高受众参与度或影响力。

成为VIP会员查看完整内容
42

相关内容

人工智能在军事中可用于多项任务,例如目标识别、大数据处理、作战系统、网络安全、后勤运输、战争医疗、威胁和安全监测以及战斗模拟和训练。
《计算力与人工智能治理》2024最新104页报告
专知会员服务
38+阅读 · 2月29日
112页《人工智能对齐:全面性综述》中文版
专知会员服务
151+阅读 · 2月1日
《网络战仿真中的多智能体强化学习》最新42页报告
专知会员服务
40+阅读 · 2023年7月11日
万字译文《海战中实施人工智能的挑战》2023最新报告
专知会员服务
174+阅读 · 2023年5月6日
《攻击性人工智能》最新62页报告
专知会员服务
112+阅读 · 2023年3月29日
《在国防中实现负责任的人工智能》2023最新报告
专知会员服务
43+阅读 · 2023年2月22日
【2023新书】机器学习集成方法,354页pdf
专知
36+阅读 · 2023年4月11日
国家自然科学基金
6+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
33+阅读 · 2015年12月31日
国家自然科学基金
22+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
Arxiv
145+阅读 · 2023年4月20日
A Survey of Large Language Models
Arxiv
362+阅读 · 2023年3月31日
Arxiv
130+阅读 · 2023年3月24日
Arxiv
19+阅读 · 2023年3月17日
VIP会员
相关基金
国家自然科学基金
6+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
33+阅读 · 2015年12月31日
国家自然科学基金
22+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
微信扫码咨询专知VIP会员