AI信息的决策者：前Meta新闻主管的解决方案
前Meta新闻主管：AI信息的决策者是谁？
坎贝尔·布朗（Campbell Brown）的职业生涯始终围绕“准确信息”展开——从知名电视记者，到Facebook（现Meta）首位且唯一的首席新闻官。如今，目睹AI重塑信息消费方式，她预感到历史可能重演，这一次，她选择主动出击而非等待他人修复。
Forum AI：为“高风险话题”设立AI评估基准
她的公司Forum AI（她近期在旧金山StrictlyVC晚宴上与TechCrunch的蒂姆·费恩霍兹讨论过）专注于评估基础模型在“高风险话题”上的表现，包括地缘政治、心理健康、金融、招聘等——这些领域“没有明确的对错答案，充满模糊、细微的复杂性”。
其核心思路是：邀请全球顶尖专家构建评估基准，再训练AI评委大规模评估模型。在地缘政治领域，布朗已招募尼尔·弗格森、法里德·扎卡里亚、前国务卿托尼·布林肯、前众议院议长凯文·麦卡锡，以及奥巴马政府时期网络安全主管安妮·纽伯格。目标是将AI评委的判断与人类专家的共识度提升至约90%，这一目标Forum AI已实现。
动机：ChatGPT发布时的“存在主义危机”
布朗将Forum AI的成立追溯到17个月前纽约的一个具体时刻。“当ChatGPT首次公开发布时我就在Meta，”她回忆道，“很快意识到这将成为所有信息流动的主要渠道——而它并不擅长此道。”对子女未来的担忧让她感到近乎“存在主义危机”：“如果我们不解决这个问题，我的孩子可能会变得非常无知。”
最令她沮丧的是，准确性似乎无人重视。她指出，基础模型公司“极度专注于代码和数学”，而新闻信息领域更复杂，但这不代表可以忽视。
AI现状：偏见与错误频发
当Forum AI开始评估主流模型时，结果并不乐观。她提到Gemini会从中国共产党网站引用“与中国无关的故事”，几乎所有模型都存在左倾政治偏见。更隐蔽的问题包括：缺乏上下文、视角缺失、未承认的稻草人论证等。“还有很长的路要走，”她说，“但也有一些容易修复的问题，能大幅改善结果。”
反思过去：社交媒体优化的教训
布朗在Facebook的多年经历让她目睹了“优化错误目标”的后果。“我们尝试的很多事情都失败了，”她告诉费恩霍兹。她建立的 fact-checking 项目如今已不复存在。教训是：优化互动性对社会有害，让许多人更难获取真实信息。
未来希望：企业需求或成突破口
她希望AI能打破这一循环。“目前有两种可能：公司要么给用户想要的东西，要么‘给人们真实、诚实、正确的内容’。”她承认，追求真相的AI可能听起来天真，但认为企业可能成为意想不到的盟友。使用AI进行信贷决策、贷款、保险和招聘的企业关注责任问题，“他们会希望优化‘做对’”。
市场挑战：合规审计的不足
这一企业需求也是Forum AI的商业赌注，但将合规兴趣转化为稳定收入仍具挑战，尤其当前市场多满足于“打勾式审计”和标准化基准，布朗认为这些远远不够。
她直言合规领域“是个笑话”。纽约市通过首部招聘偏见法要求AI审计后，州审计官发现超半数审计未能发现违规。真正的评估需要领域专家处理未知场景和“可能带来麻烦的边缘案例”，而“聪明但不够专”的人无法胜任。
信任鸿沟：行业宣传与现实的差距
布朗的公司去年秋季筹集了300万美元（由Lerer Hippeau领投），她能清晰描述AI行业自我形象与用户现实的脱节。“你听到大科技公司领导说‘这项技术将改变世界’‘会取代你的工作’‘能治愈癌症’，”她说，“但对普通用户来说，用聊天机器人问基本问题时，仍得到大量垃圾和错误答案。”
AI的信任度处于极低水平，她认为这种怀疑在很多情况下是合理的。“硅谷围绕一件事讨论，而消费者则是完全不同的对话。”
关注微信号：智享开源 ，可及时获取信息
关注微信
还没有任何评论，你来说两句吧！