随着AI内容充斥互联网，Pangram融资900万美元用于检测AI生成内容

总部位于纽约的AI检测初创公司Pangram致力于打击互联网上泛滥的AI劣质内容，并刚刚获得了900万美元融资，押注于区分人类生成内容与AI生成文本的工具需求将持续增长。 本轮融资由Menlo Ventures领投，Haystack、ScOp、Script Capital和Cadenza参投。与此同时，Pangram还推出了其下一代AI文本检测模型Pangram 4，以及AI图像检测模型Pangram Image。 Pangram表示，新文本检测模型在识别AI辅助写作和人类-AI混合内容方面准确率超过99%，并且能够更容易地检测出AI人性化程序。AI图像检测器目前仅通过研究预览版提供；Pangram计划在未来几周内更广泛地发布。 斯坦福大学人工智能和机器学习毕业生Max Spero和Bradley Emi大约在两年前创立了Pangram，当时ChatGPT的发布为互联网打开了机器人和AI生成的SEO劣质内容以及Spero所称的“LLM驱动的俄罗斯虚假信息活动和有阿联酋影响的Twitter活动”的闸门。 “我认为知道你所看的内容是否由AI生成具有极大的价值，”Spero告诉TechCrunch。“尤其是你正在阅读的文本，因为它改变了人们对待文本的方式。这是否是我需要警惕幻觉并持怀疑态度的内容，还是我相信是由真正的记者经过充分研究的东西？” Pangram的AI检测系统本质上是一个大型机器学习模型，训练于数千万已知的人类文档。然后，该初创公司为每个文档创建了一个“合成镜像”，复制了主题、长度和语气，但由前沿LLM编写。 “我们的模型学习AI一致做出的风格差异和选择，并能够利用这些来高置信度地学习什么使内容由AI生成，”Spero说，并补充说AI检测器不依赖于复制粘贴元数据或隐藏水印。 对于Pangram来说，AI检测不仅仅关乎一段文本是否完全由AI编写。它还涉及区分AI辅助的程度——比如某人自己写了内容，但随后要求AI编辑或润色。Spero认为AI辅助是可以接受的，只要作者披露他们使用了AI。 Pangram的出现正值AI使用变得越来越普遍之际。在某些情况下，比如一位加拿大政客在向立法者发表演讲时大声朗读AI提示，错误导致嘲笑。在其他情况下，比如某些律师使用ChatGPT创建的虚假引文进行辩护，后果可能是制裁和罚款。 这种反弹不仅给个人带来尴尬或制裁——也开始体现在机构规则中。 开放获取档案arXiv今年推出了一项新的执行政策，规定若提交的证据表明作者未能审查LLM输出（如幻觉参考或元评论，例如“您希望我做任何更改吗？”），则可能触发一年的提交封禁。 Pangram并不是唯一一个押注AI检测将更受追捧的公司。竞争对手如Winston AI、Originality.ai、Copyleaks和GPTZero也在追逐同样的需求，各自构建自己的检测器。 Pangram的技术虽然并非完美，但可能有助于推动对充斥互联网、法庭和学术论文的AI生成内容的抵制。 用户可以通过每月20美元的订阅在线访问Pangram，或下载Chrome扩展程序，该扩展程序可实时在X、LinkedIn、Substack、Reddit和Medium上为帖子打标签。它还提供信息流健康评分，以百分比形式显示屏幕上人类与AI内容的分布。 Spero表示，大约万分之一的真实人类文档会被Pangram的模型错误标记为AI，所以我决定测试一下。文本检测模型令人印象深刻，但并不完美。它轻松标记了由ChatGPT和Claude完全生成的AI新闻文章，并且很少被我试图将AI生成文本改得更像人类写的尝试所欺骗。同时，Pangram确实将我完全重写的句子标记为AI生成。Pangram也完全没有被我试图让ChatGPT和Claude规避AI检测器的提示所欺骗。 我还给了ChatGPT和Claude一篇我自己的文章，要求它们润色。Pangram给出了13%的AI辅助分数，这可能接近准确，但模型能够检测到某些句子中微妙的措辞选择变化，而在其他句子中则忽略。它还将一些人类写的句子标记为AI辅助。值得注意的是，当我将同一篇文章以我最初写的完整形式提供给Pangram时，它得到了100%的人类分数。 我对Pangram新图像检测模型的有限测试也同样令人印象深刻。 Pangram的AI图像检测系统承诺能够跨AI模型识别AI生成的图像，这与OpenAI或Google DeepMind基于水印的检查不同，后者大多只能检测自身的输出。它基于像素级分布，学习真实照片与AI生成图像之间微妙的统计差异。Spero表示，该模型甚至能够检测出现在真实照片中的AI图像。 在我的测试中，该模型轻松检测出AI生成的图像，无论是逼真的还是卡通风格的。我还可以确认模型能够检测出现在真实照片中的AI图像——Pangram提供的热图清晰地照亮了图像区域——尽管有一个实例它错误地将一张AI生成图像的照片标记为人类内容。 Spero表示，他不希望自己的技术助长对使用AI写作的人进行猎巫，但需要某种机制来对抗劣质内容。 “我看到的未来是AI内容继续激增，”Spero说。“我们获得新GPU的速度比新人类出生的速度还要快。如果我们不主动歧视偏向人类内容，那么我们将看到越来越多的AI，它只会淹没我们拥有的任何人类信号。”