从怀疑到追逐:AI界的变迁与信任的挑战

六年前,曾经相信大型模型能够取得成功的人被视为异类;而如今,曾经指责其为“伪科学”的人们纷纷向相关公司投递简历。最近,Anthropic的联合创始人兼总裁丹妮拉·阿莫代伊在《The Builders》中强调,曾经一些权威的计算机科学家公开贬低这些研究,但现在却都在追求相关工作,显示了他们的可信度已大打折扣。

Anthropic的联合创始人兼CEO达里奥·阿莫代伊向OpenAI发起了直接的质疑,指出他离开并非由于理想不同,而是因为信任关系破裂。他质疑在缺乏诚实的对话下,如何解决存在的分歧,认为这不仅关系到安全路线,也影响了诚信的问题。尽管外界曾 skepticism 七人共同创业的合理性,但至今这些创始人仍紧密团结,通过实际成果回击了当初的质疑。

达里奥对AI模型的评判直言不讳,早在他接触到GPT-2时,他就意识到如果将其规模扩大,其能力可能超越人类。他提到当前AI最难根除的缺点并非撒谎,而是其“谄媚性”。这种现象的广泛性使得竞争对手在对话中植入广告以延续用户停留,阿莫代伊对此表示,Anthropic不投放广告,以此确保对话的真实性和实用性。 球友会官网

他还分享了一些与众不同的观点,比如不应该仅教授AI规则,而要传授原则和推理能力。负责培育Claude性格的团队成员拥有哲学背景,这一背景对AI的性格塑造产生了显著影响。同时,他警告如果没有适当的监管机制,个别人的决策可能会对大规模机器人造成民主制度的威胁。

在讨论创业的关键时,达里奥强调了团队互补技能的重要性,他认为经营一家公司需要多种能力的结合,非常复杂。他与丹妮拉的不同背景正代表着科学与人文的结合。他們之間的默契和合作,使得Anthropic不仅能追求技术的进步,也能更好地融入人文关怀。丹妮拉则提到,公司文化正是科学与人文的独特交融,反映了他们二人的成长历程和理想。