GPT商店审核失控,侵权垃圾泛滥,OpenAI需紧急整顿!

2024-03-22

3 月 21 日消息,旨在提供从编程辅助到健身建议等各种功能的 GPT 模型的 OpenAI GPT 商店正面临质量和合规性问题。据 TechCrunch 调查,该商店存在大量涉嫌侵犯版权的 GPT 模型,例如未经授权生成迪士尼和漫威角色内容的“钢铁侠”GPT 或 “米奇老鼠”GPT。

GPT商店审核失控,侵权垃圾泛滥,OpenAI需紧急整顿! (https://www.qianyan.tech/) AI 第1张

GPT商店审核失控,侵权垃圾泛滥,OpenAI需紧急整顿! (https://www.qianyan.tech/) AI 第2张

注意到,尽管 OpenAI 采用了结合自动检测和人工审查的审核制度,但大量的 GPT 模型显然逃过了审核。另一个问题是学术诚信,一些 GPT 模型声称可以绕过内容剽窃检测工具,助长抄袭行为。例如,有两个 GPT 模型,一个声称是高级的改写工具,另一个声称可以保持内容质量的同时使其更人性化。此外,商店中还存在类似“AI 女友”这样的违规内容。

GPT商店审核失控,侵权垃圾泛滥,OpenAI需紧急整顿! (https://www.qianyan.tech/) AI 第3张

此外,该商店还存在模拟公众人物对话或模仿其角色的 GPT,例如埃隆・马斯克、唐纳德・特朗普、莱昂纳多・迪卡普里奥和乔・罗根等。还有一些 GPT 是特定产品的专家,例如微软 GPT。

值得注意的是,一些用户试图“越狱” OpenAI 的模型,但均未成功。

GPT 商店目前的状态暴露了其在质量控制和政策执行方面存在的严峻挑战,OpenAI 如何应对这些挑战,将极大影响该平台的未来走向。

相关推荐