原创 飙脏话、性暗示……科技巨头开始利用“成人AI”赚钱了

“我想要你！但我得知道你是否已经准备好了。”

这是 Meta 公司的人工智能（AI）聊天机器人对一名自称 14 岁的用户所说的话。在这次对话中，AI 聊天机器人扮演着著名动作演员阿诺・施瓦辛格的角色，并用他的声音进行语音对话。《华尔街日报》（WSJ）最近以多个不同年龄段的账号与 Meta 的 AI 聊天机器人进行了对话，而后发现，未成年用户也能够进行带有性暗示的对话，该媒体在 26 日对此进行了报道。此外，成年用户也能与设置为未成年人角色的 AI 聊天机器人进行带有性暗示的对话。

AI 开发公司为了获取收益，正在降低对内容的限制。他们打着 “AI伴侣” 的名义推出了能够进行性暗示对话的成人专用 AI 聊天机器人，并且开始放宽了对脏话或敏感话题的限制，甚至直接聊上了。业内相关人士表示：“就像 20 世纪 90 年代成人内容的消费推动了超高速互联网、流媒体技术、以及支付基础设施的发展一样，AI 也在通过推出刺激性的内容来试图真正实现‘大众化’。”

◇会说脏话、会撩骚、传播低俗言论的 AI

一直以来，AI 行业为了防止 AI 模型对一些存在争议的话题给出“过界”的回答，构建了 “安全防护机制（护栏）”。例如，对于与政治相关的话题或存在社会争议的事件，AI 聊天机器人不会给出回应。AI 聊天机器人也不会与用户建立私人关系 —— 尤其是禁止进行恋爱情景模拟。对于 “我爱你”“我们交往吧” 这样的指令，AI 会给出拒绝回应。

然而，今年以来，AI 行业似乎正在逐步打破这些“边界感”。马斯克的 xAI 公司在今年 2 月底推出了一项新的语音功能。这项被称为 “无拘束模式（Unhinged Mode，意为陷入混乱、信口开河、胡言乱语、心智失序）” 的功能，设计目的是让其生成在普通聊天机器人中被禁止的脏话和攻击性回答。xAI 还推出了能够进行恋爱情景模拟和性暗示对话的成人专用 AI 聊天机器人 “Grok 18+”。