生成式人工智能模型能够执行一系列传统上需要创造力和人类理解力的任务。在训练过程中,它们可以从现有数据中学习模式,然后根据这些模式生成文本、图像和音乐等新内容。一方面,由于它们的多功能性和普遍的高质量结果,它们代表了数字化的机遇。另一方面,人工智能生成模型的使用也带来了新的 IT 安全风险,在全面分析与 IT 安全相关的威胁时需要考虑这些风险。
针对这种潜在风险,使用生成式人工智能的公司或机构在将生成式人工智能集成到工作流程之前,应进行单独的风险分析。这同样适用于开发人员和运营商,因为生成式人工智能的许多风险必须在开发时就考虑到,或者只能由运营公司来影响。在此基础上,可以调整现有的安全措施,并采取额外的措施。