乔伊斯·埃瑟（Joyce Esser）因使用轻微粗话而失去了使用AI生成语音系统的权限。MIT/ElevenLabs
乔伊斯·埃瑟（Joyce Esser）以为自己终于找回了声音——直到AI语音系统因为她的咒骂而将其剥夺。
这位患有球部运动神经元病（MND）的英国女性使用ElevenLabs提供的AI驱动语音克隆工具来重现她的声音。但在她给丈夫发送了一条轻松的消息——“快点，亲爱的，动动你的屁股！！”接着是“我也该穿上我的内裤了！！！”之后，她收到了意想不到的警告。
“第二天，我收到了ElevenLabs的警告，说我使用了不适当的语言，并不要再这样做！！！”乔伊斯告诉MIT。她以为这只是过度反应，问题很快会得到解决。然而，她被禁用了。“显然不是这样，因为第二天一个真人就封禁了我！！！”
“我才刚找回了我的声音，现在他们又把它从我这里夺走了。”她说。这一时刻更加刺痛她的是，她最近还向当地的MND小组称赞了ElevenLabs的技术。
在联系公司后，ElevenLabs恢复了她的访问权限并道歉，但禁用的原因仍然不清楚。ElevenLabs的政策禁止威胁、冒充和干预选举，但并没有明确禁止咒骂的规则。
“据我所知，没有具体的咒骂禁令。”该公司代表说。
MND交流工具允许用户输入旧声音的录音并键入消息，这些消息随后会以未经过滤的方式大声朗读出来。
“患有MND的人应该能够说出他们心中的任何话，包括咒骂。”MND协会的理查德·凯夫（Richard Cave）说。
(全文结束)