会员服务
INFORMS · Prompt · ChatGPT · TOOLS · 人工智能 ·
2024 年 6 月 6 日
Exfiltration of personal information from ChatGPT via prompt injection
翻译：暂无翻译
Gregory Schwartzman
Gregory Schwartzman

We report that ChatGPT 4 and 4o are susceptible to a prompt injection attack that allows an attacker to exfiltrate users' personal data. It is applicable without the use of any 3rd party tools and all users are currently affected. This vulnerability is exacerbated by the recent introduction of ChatGPT's memory feature, which allows an attacker to command ChatGPT to monitor the user for the desired personal data.


翻译：暂无翻译
0
下载
关闭预览

相关内容

《计算机信息》杂志发表高质量的论文，扩大了运筹学和计算的范围，寻求有关理论、方法、实验、系统和应用方面的原创研究论文、新颖的调查和教程论文，以及描述新的和有用的软件工具的论文。官网链接：https://pubsonline.informs.org/journal/ijoc
【CVPR 2022】一个完全无监督的框架，从噪声和部分测量中学习图像，Robust Equivariant Imaging: a fully unsupervised framework for learning to image
【CVPR 2022】一个完全无监督的框架，从噪声和部分测量中学习图像，Robust Equivariant Imaging: a fully unsupervised framework for learning to image
专知会员服务
24+阅读 · 2022年3月3日
Linux导论，Introduction to Linux，96页ppt
Linux导论，Introduction to Linux，96页ppt
专知会员服务
78+阅读 · 2020年7月26日
【跨语言BERT模型大集合】Transfer learning is increasingly going multilingual with language-specific BERT models
专知会员服务
53+阅读 · 2020年1月30日
FlowQA: Grasping Flow in History for Conversational Machine Comprehension
FlowQA: Grasping Flow in History for Conversational Machine Comprehension
专知会员服务
29+阅读 · 2019年10月18日
Auto-Sizing the Transformer Network: Improving Speed, Efficiency, and Performance for Low-Resource Machine Translation
Auto-Sizing the Transformer Network: Improving Speed, Efficiency, and Performance for Low-Resource Machine Translation
专知会员服务
47+阅读 · 2019年10月17日
Connections between Support Vector Machines, Wasserstein distance and gradient-penalty GANs
Connections between Support Vector Machines, Wasserstein distance and gradient-penalty GANs
专知会员服务
34+阅读 · 2019年10月17日
Deep Learning Based Detection and Correction of Cardiac MR Motion Artefacts During Reconstruction for High-Quality Segmentation
Deep Learning Based Detection and Correction of Cardiac MR Motion Artefacts During Reconstruction for High-Quality Segmentation
专知会员服务
57+阅读 · 2019年10月17日
《DeepGCNs: Making GCNs Go as Deep as CNNs》
《DeepGCNs: Making GCNs Go as Deep as CNNs》
专知会员服务
30+阅读 · 2019年10月17日
Keras François Chollet 《Deep Learning with Python 》, 386页pdf
Keras François Chollet 《Deep Learning with Python 》, 386页pdf
专知会员服务
153+阅读 · 2019年10月12日
【SIGGRAPH2019】TensorFlow 2.0深度学习计算机图形学应用
【SIGGRAPH2019】TensorFlow 2.0深度学习计算机图形学应用
专知会员服务
40+阅读 · 2019年10月9日
Hierarchically Structured Meta-learning
Hierarchically Structured Meta-learning
CreateAMind
26+阅读 · 2019年5月22日
Transferring Knowledge across Learning Processes
Transferring Knowledge across Learning Processes
CreateAMind
28+阅读 · 2019年5月18日
Unsupervised Learning via Meta-Learning
Unsupervised Learning via Meta-Learning
CreateAMind
42+阅读 · 2019年1月3日
meta learning 17年：MAML SNAIL
meta learning 17年：MAML SNAIL
CreateAMind
11+阅读 · 2019年1月2日
A Technical Overview of AI & ML in 2018 & Trends for 2019
A Technical Overview of AI & ML in 2018 & Trends for 2019
待字闺中
17+阅读 · 2018年12月24日
disentangled-representation-papers
disentangled-representation-papers
CreateAMind
26+阅读 · 2018年9月12日
STRCF for Visual Object Tracking
STRCF for Visual Object Tracking
统计学习与视觉计算组
14+阅读 · 2018年5月29日
Focal Loss for Dense Object Detection
Focal Loss for Dense Object Detection
统计学习与视觉计算组
11+阅读 · 2018年3月15日
IJCAI | Cascade Dynamics Modeling with Attention-based RNN
IJCAI | Cascade Dynamics Modeling with Attention-based RNN
KingsGarden
13+阅读 · 2017年7月16日
From Softmax to Sparsemax-ICML16（1）
From Softmax to Sparsemax-ICML16（1）
KingsGarden
72+阅读 · 2016年11月26日
城市“建成环境——空间行为”的多尺度影响关系与机理研究
国家自然科学基金
10+阅读 · 2017年12月31日
语义Web知识库补全关键技术研究
国家自然科学基金
12+阅读 · 2017年12月31日
“Fishes-in-net” 酵母孢子微胶囊式近平滑假丝酵母SCRII酶有机相高效手性合成机制研究
国家自然科学基金
2+阅读 · 2016年12月31日
DMB信号水汽探测方法若干问题研究
国家自然科学基金
1+阅读 · 2015年12月31日
SDN数据平面中大规模流表的高性能查找方法研究
国家自然科学基金
3+阅读 · 2015年12月31日
基于自主学习的Ad hoc Agent序贯决策研究
国家自然科学基金
38+阅读 · 2015年12月31日
Schr？dinger-Poisson方程守恒DDG方法研究
国家自然科学基金
2+阅读 · 2015年12月31日
动态Gr？bner 基与GVW算法
国家自然科学基金
0+阅读 · 2014年12月31日
海量Web用户生成内容物化关键技术
国家自然科学基金
1+阅读 · 2014年12月31日
基于UGC的应急响应决策支持系统关键技术研究
国家自然科学基金
11+阅读 · 2014年12月31日
Unravelling the Performance of Physics-informed Graph Neural Networks for Dynamical Systems
Arxiv
13+阅读 · 2022年11月10日
VLP: A Survey on Vision-Language Pre-training
VLP: A Survey on Vision-Language Pre-training
Arxiv
11+阅读 · 2022年2月21日
Recommender systems based on graph embedding techniques: A comprehensive review
Arxiv
22+阅读 · 2021年9月20日
Attention, please! A survey of Neural Attention Models in Deep Learning
Arxiv
59+阅读 · 2021年3月31日
How to represent part-whole hierarchies in a neural network
Arxiv
13+阅读 · 2021年2月25日
PROP: Pre-training with Representative Words Prediction for Ad-hoc Retrieval
Arxiv
11+阅读 · 2020年10月20日
PEGASUS: Pre-training with Extracted Gap-sentences for Abstractive Summarization
Arxiv
17+阅读 · 2020年6月2日
Beyond Accuracy: Behavioral Testing of NLP models with CheckList
Arxiv
11+阅读 · 2020年5月8日
An application of cascaded 3D fully convolutional networks for medical image segmentation
Arxiv
10+阅读 · 2018年3月20日
Deep Reinforcement Learning for List-wise Recommendations
Arxiv
13+阅读 · 2018年1月5日
VIP会员
文章信息
前往arXiv
下载PDF
相关主题
INFORMS
Prompt
ChatGPT
TOOLS
人工智能
相关VIP内容
【CVPR 2022】一个完全无监督的框架，从噪声和部分测量中学习图像，Robust Equivariant Imaging: a fully unsupervised framework for learning to image
【CVPR 2022】一个完全无监督的框架，从噪声和部分测量中学习图像，Robust Equivariant Imaging: a fully unsupervised framework for learning to image
专知会员服务
24+阅读 · 2022年3月3日
Linux导论，Introduction to Linux，96页ppt
Linux导论，Introduction to Linux，96页ppt
专知会员服务
78+阅读 · 2020年7月26日
【跨语言BERT模型大集合】Transfer learning is increasingly going multilingual with language-specific BERT models
专知会员服务
53+阅读 · 2020年1月30日
FlowQA: Grasping Flow in History for Conversational Machine Comprehension
FlowQA: Grasping Flow in History for Conversational Machine Comprehension
专知会员服务
29+阅读 · 2019年10月18日
Auto-Sizing the Transformer Network: Improving Speed, Efficiency, and Performance for Low-Resource Machine Translation
Auto-Sizing the Transformer Network: Improving Speed, Efficiency, and Performance for Low-Resource Machine Translation
专知会员服务
47+阅读 · 2019年10月17日
Connections between Support Vector Machines, Wasserstein distance and gradient-penalty GANs
Connections between Support Vector Machines, Wasserstein distance and gradient-penalty GANs
专知会员服务
34+阅读 · 2019年10月17日
Deep Learning Based Detection and Correction of Cardiac MR Motion Artefacts During Reconstruction for High-Quality Segmentation
Deep Learning Based Detection and Correction of Cardiac MR Motion Artefacts During Reconstruction for High-Quality Segmentation
专知会员服务
57+阅读 · 2019年10月17日
《DeepGCNs: Making GCNs Go as Deep as CNNs》
《DeepGCNs: Making GCNs Go as Deep as CNNs》
专知会员服务
30+阅读 · 2019年10月17日
Keras François Chollet 《Deep Learning with Python 》, 386页pdf
Keras François Chollet 《Deep Learning with Python 》, 386页pdf
专知会员服务
153+阅读 · 2019年10月12日
【SIGGRAPH2019】TensorFlow 2.0深度学习计算机图形学应用
【SIGGRAPH2019】TensorFlow 2.0深度学习计算机图形学应用
专知会员服务
40+阅读 · 2019年10月9日
热门VIP内容
相关资讯
Hierarchically Structured Meta-learning
Hierarchically Structured Meta-learning
CreateAMind
26+阅读 · 2019年5月22日
Transferring Knowledge across Learning Processes
Transferring Knowledge across Learning Processes
CreateAMind
28+阅读 · 2019年5月18日
Unsupervised Learning via Meta-Learning
Unsupervised Learning via Meta-Learning
CreateAMind
42+阅读 · 2019年1月3日
meta learning 17年：MAML SNAIL
meta learning 17年：MAML SNAIL
CreateAMind
11+阅读 · 2019年1月2日
A Technical Overview of AI & ML in 2018 & Trends for 2019
A Technical Overview of AI & ML in 2018 & Trends for 2019
待字闺中
17+阅读 · 2018年12月24日
disentangled-representation-papers
disentangled-representation-papers
CreateAMind
26+阅读 · 2018年9月12日
STRCF for Visual Object Tracking
STRCF for Visual Object Tracking
统计学习与视觉计算组
14+阅读 · 2018年5月29日
Focal Loss for Dense Object Detection
Focal Loss for Dense Object Detection
统计学习与视觉计算组
11+阅读 · 2018年3月15日
IJCAI | Cascade Dynamics Modeling with Attention-based RNN
IJCAI | Cascade Dynamics Modeling with Attention-based RNN
KingsGarden
13+阅读 · 2017年7月16日
From Softmax to Sparsemax-ICML16（1）
From Softmax to Sparsemax-ICML16（1）
KingsGarden
72+阅读 · 2016年11月26日
相关论文
Unravelling the Performance of Physics-informed Graph Neural Networks for Dynamical Systems
Arxiv
13+阅读 · 2022年11月10日
VLP: A Survey on Vision-Language Pre-training
VLP: A Survey on Vision-Language Pre-training
Arxiv
11+阅读 · 2022年2月21日
Recommender systems based on graph embedding techniques: A comprehensive review
Arxiv
22+阅读 · 2021年9月20日
Attention, please! A survey of Neural Attention Models in Deep Learning
Arxiv
59+阅读 · 2021年3月31日
How to represent part-whole hierarchies in a neural network
Arxiv
13+阅读 · 2021年2月25日
PROP: Pre-training with Representative Words Prediction for Ad-hoc Retrieval
Arxiv
11+阅读 · 2020年10月20日
PEGASUS: Pre-training with Extracted Gap-sentences for Abstractive Summarization
Arxiv
17+阅读 · 2020年6月2日
Beyond Accuracy: Behavioral Testing of NLP models with CheckList
Arxiv
11+阅读 · 2020年5月8日
An application of cascaded 3D fully convolutional networks for medical image segmentation
Arxiv
10+阅读 · 2018年3月20日
Deep Reinforcement Learning for List-wise Recommendations
Arxiv
13+阅读 · 2018年1月5日
相关基金
城市“建成环境——空间行为”的多尺度影响关系与机理研究
国家自然科学基金
10+阅读 · 2017年12月31日
语义Web知识库补全关键技术研究
国家自然科学基金
12+阅读 · 2017年12月31日
“Fishes-in-net” 酵母孢子微胶囊式近平滑假丝酵母SCRII酶有机相高效手性合成机制研究
国家自然科学基金
2+阅读 · 2016年12月31日
DMB信号水汽探测方法若干问题研究
国家自然科学基金
1+阅读 · 2015年12月31日
SDN数据平面中大规模流表的高性能查找方法研究
国家自然科学基金
3+阅读 · 2015年12月31日
基于自主学习的Ad hoc Agent序贯决策研究
国家自然科学基金
38+阅读 · 2015年12月31日
Schr？dinger-Poisson方程守恒DDG方法研究
国家自然科学基金
2+阅读 · 2015年12月31日
动态Gr？bner 基与GVW算法
国家自然科学基金
0+阅读 · 2014年12月31日
海量Web用户生成内容物化关键技术
国家自然科学基金
1+阅读 · 2014年12月31日
基于UGC的应急响应决策支持系统关键技术研究
国家自然科学基金
11+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员
Top