北京时间2023年2月6日，爆红的聊天机器人ChatGPT开发商OpenAI的首席技术官米拉·穆拉蒂表示，ChatGPT应该受到监管，因为它可能被“危险分子”使用。
OpenAI于2022年11月30日开放测试ChatGPT，此后ChatGPT风靡全球。两个月后，ChatGPT用户达到1亿，在1月份的访问量约为5.9亿。瑞银银行分析师在报告中写道，这是互联网领域发展20年来，增长速度最快的消费类应用程序。
ChatGPT是美国人工智能研究实验室OpenAI新推出的一种人工智能技术驱动的自然语言处理工具，在OpenAI的官网上，ChatGPT被描述为优化对话的语言模型。它能够通过学习和理解人类的语言来进行对话，还能根据聊天的上下文进行互动，真正像人类一样来聊天交流，甚至能完成撰写邮件、视频脚本、文案、翻译、代码等任务。
ChatGPT风靡以来，除以上问题外，讨论更多的还是数据安全问题。
数据泄露问题。员工在使用ChatGPT进行辅助工作时，商业机密泄露风险也随之增加。2023年1月份，微软首席技术官办公室一位高级工程师回答，只要不与ChatGPT共享机密信息，工作时使用ChatGPT是被允许的。亚马逊公司律师同样警告员工不要与ChatGPT分享“任何亚马逊的机密信息”，因为输入的信息可能会被用作ChatGPT进一步迭代的训练数据。
删除权问题。ChatGPT虽然承诺会从其使用的记录中删除所有个人身份信息，但ChatGPT未说明其如何删除信息，而且由于被收集的数据将用于ChatGPT不断的学习中，很难保证完全擦除个人信息痕迹。
语料库获取合规问题。欧洲数据保护委员会（EDPB）支持专家库成员亚历山大称，ChatGPT获取数据的方法需要完全披露。如果ChatGPT通过抓取互联网上的信息获得其训练数据，可能并不合法。
除此之外，用户对ChatGPT的恶意利用也会带来很多数据安全问题。比如利用自然语言编写的能力，编写恶意软件，从而逃避防病毒软件的检测；利用ChatGPT的编写功能，生成钓鱼电子邮件；利用对话功能，冒充真实的人或者组织骗取他人信息等。
ChatGPT开发商OpenAI的首席技术官米拉·穆拉蒂在采访时也表示，ChatGPT可能会“编造事实”，这与其他基于语言模型的人工智能工具一样。2022年11月，几乎与ChatGPT同一时间上线的Meta服务科研领域的语言模型Galactica，就因为真假答案混杂的问题，测试仅3天就被用户投诉下线。ChatGPT及类似语言模型要应用到搜索引擎、客户投诉系统等领域，就必须对其进行合规性改造，以最大程度降低相应的合规风险。穆拉蒂在采访时也强调，OpenAI将需要获得所有能得到的帮助，包括来自监管机构、政府和其他所有人的帮助。她补充说，现在对他进行监管“并不为时过早”。
-
钓?检测：通过训练钓?邮件的语言模型和消息，分析传入的电子邮件和消息的文本与已知网络钓?示例的相似之处，企业可以使用它来检测新的网络钓?尝试。 -
密码破解：企业可以使用语言模型生成潜在的密码组合，可用于测试自己密码的强度或识别需要更改的弱密码。 -
恶意软件检测：企业可以使用语言模型来分析恶意软件的说明和指令，以识别恶意软件中 常用的语言模式，这有助于检测新的恶意软件变体。 -
网络威胁情报：企业可以使用语言模型来分析来自各种来源 (例如：社交媒体)的大量文本数据，以识别潜在的网络威胁并了解攻击者使用的战术、技术和程序（TTP）。 -
自动事件响应：可以使用语言模型生成对某些类型的网络事件的自动响应，例如：阻止 IP 地址或关闭服务。
