17611538698
webmaster@21cto.com

Sam Altman 对 AI 未来的真正期望

人工智能 0 222 2024-05-26 09:57:48

图片

背景

在上周,OpenAI 正式推出了 GPT-4o,这是世界上功能最强大聊天机器人的最新语音交互版本。

OpenAI首席执行官 Sam Altman 在“All-In” 播客中长达一小时的采访中分享了一些让我们惊讶,但是也很坦率的想法。

该播客由著名投资人Chamath Palihapitiya、Jason Calacanis、David O. Sacks和David Friedberg组成的团队主持,这让 Altman 有机会在更具对话性的环境中敞开心扉。

在一小时的交流讨论中,Altman 透露了他对 OpenAI 公司的长期愿景,甚至还透露了世界通用人工智能(AGI)的未来发展轨迹。

作为全球顶级人工智能公司的掌门人,Altman 回答了有关人工智能大语言模型的安全性、可负担性、经济模型以及下一件大事等问题。

此外在交流过程中,Altman 还和大家展望和思考了未来事物的形态,本文均做了详细记录。

内在差异


在宣布 GPT-4o时,Altman 指出了它在 OpenAI 产品发展中的地位。


“最初的 ChatGPT 展示了语言界面的可能性;这个新东西给人的感觉完全不同,它快速、智能、有趣、自然并且实用。与计算机交谈对我来说从来没有感觉到自然,而现在感觉到非常自然。”


在播客中,我们还能够真切感受到 Altman 长期愿景的关注,并且把长期愿景提高到非常重要的位置。


在讨论人类的下一个伟大技术是什么时,Altman 有一些暗示地说:“我认为语音可能是下一个技术”。


“做为程序员,如果你能让语音交互变得非常好,那感觉就非常好——我认为这就像是一种使用计算机的不同方式。


ps:ChatGTP-4.0 中,使用了著名女星斯嘉丽·约翰逊 (Scarlett Johansson)在电影《Her》的声音。

图片


安全性如何?


上周,OpenAI 解散了 10 个月前组建的管理团队,登上了各大科技媒体的头条。


OpenAI团队的目标是探索“引导和控制比我们更聪明的AI系统”的解决方案,但是这个团队的两位领导与创建者双双辞职。


他们分别是Ilya Sutskever和Jan Leike。


图片

Ilya Sutskever 是 11 月投票罢免 Altman 的董事会成员之一,而 Jan Leike周五在 Twitter 上抱怨OpenAI 的“安全文化和流程已经让位于闪光的产品“。


图片

在宣布辞职的几天前,Altman 对11 月“宫斗”与罢免事件的评论也表现的很有意思。

“看看,显然并非所有董事会成员都是我最喜欢的人。但我非常尊重他们对待 AGI 的严肃态度,还有确保 AI 安全的重要性。即使我完全不同意他们的决策和行动,我也从未怀疑过他们的正直,或者对安全和有益的 AGI 共同使命的承诺。”

图片

Altman 也直接谈到了人工智能的风险问题。

“我认为在不远的将来,前沿人工智能系统将能够对全球造成重大危害。”

他希望有一个国际机构确保对最强大的系统进行“合理的安全测试”,这样“你知道,这些东西不会逃脱,并不断自我改进或诸如此类……”他补充说道:“也许什么都不会发生。但我认为,谈论我们认为可能发生的事情以及如何解决这些问题,是我们职责的一部分,也是我们的使命”。

Altman 将监督人工智能比作对现有核武器或生物技术的监督,“或者那些真正会产生非常负面的影响、远远超出一个国家范围的事情”。

他对监督AI方法论提出了具体建议:例如对输出进行安全测试,而不是让政府监管机构审查公司的所有内部代码库并评估机器学习模型中使用的权重。

Altman 还有另外一个担忧:

“我也非常担心监管过度。我认为我们做得太多,甚至有点过头,都有可能犯错。”

他坦承说,我们也可能“因为做得不够而犯错”。Altman 曾担任创业加速器 YCombinator 的总裁五年,也认可创业者们的观点。“我们已经看到监管部门越权或控制在其他领域,结果已变得非常糟糕。”

因此,他希望监管机构只关注耗资超过 100 亿美元的项目。“我不认为这会给初创企业带来任何监管负担。”

“去创造未来”


在对话的前段,Altman 就不断的申明,免费提供先进技术是“我们使命中非常重要的一部分”。他不仅想开发人工智能工具,还想“让它们得到广泛使用——要免费,或者不那么贵,不管是什么——这样人们就可以用它们去创造未来,而不是让天降神奇 AGI 来创造未来,然后把它洒在我们每个人身上。


“这似乎是一条更好的道路。这更像是一条鼓舞人心的道路。我也认为这是事情的实际发展方向。因此,我们还没有想出如何让免费用户使用 GPT4 级别的技术,这让我很难过。这是我们真正想做的事情......”


问:我认为它非常昂贵,对吗?


Altman:非常昂贵。


但 Altman 仍然预测人们将会看到一个低廉的人工智能世界。“这对我们很重要,对用户来说也很重要,它将解锁很多东西。”


这是 Altman 上周宣布 GPT-4o时重申的主题。“我非常自豪,在 ChatGPT 中免费提供了世界上最好的大语言模型,没有广告或类似的东西。


“我们创办 OpenAI 时的最初构想是,我们创造人工智能,并利用它为世界创造各种好处。但现在看来,我们将创造人工智能,然后其他人将利用它创造各种让我们所有人都受益的奇妙事物。


“我们也是一家企业,会找到很多可以收费的东西,这将帮助我们向(希望)数十亿人提供免费、卓越的人工智能服务。


超越“全民基本收入”


很明显的是,Altman 一直在思考未来,包括颠覆性技术、经济模式以及世界的未来将会是什么样子。


在播客中 Altman 还表示,他对人工智能导师的可能性以及“更快、更好地进行科学发现……这将是一次很高可能性的胜利非常兴奋”。


Altman 已经发起了一项著名的全民基本收入试点,已经有3,000 人参与因此,大家听到他对融入人工智能新方案的最新坦诚想法很有兴致。


图片

首先,Altman 谈到了全民基本收入的基本理念。

“给人们钱并不能解决全部问题,这当然不会让人们特别兴奋。但它会解决一些问题,并可能为人们提供更好的视野来帮助自己。”

此外, Altman 还有另一个想法。

“现在,我们看到了人工智能正在发展的一些方向。我想知道未来是否更像通用基本计算,而不是全民基本收入……每个人都会得到 GPT-7 计算的一部分,他们可以使用它,可以转售它,可以捐赠给某人用于癌症研究。但你得到的不是美元,而是这其中一部分。

“这样,你便拥有了生产力的一部分!”

保护我们关心的事物


在播客中,Altman偶尔还会流露出自己的个人情感。比如当他谈到苹果的广告时,广告中艺术材料在液压装置中被碾碎,然后用苹果iPad代替。


“我对人工智能持非常积极的态度——但我认为人类的创造力和艺术表达方式也非常美妙。你知道,对于一个只在科学上表现更好的人工智能来说?很好,那就来吧。但是一个能够进行如此深刻而美丽的人类创造性表达的人工智能呢?我认为我们应该弄清楚……”


Altman 停顿了一下,然后说道:“这会发生的。它将成为一种工具,引领我们达到更高的创意高度。”


“但我认为我们应该想办法做到这一点,以保留我们大家所关心的精神。


双方还就版权和训练数据进行了一些讨论,Altman 透露,OpenAI 决定“不做音乐……部分原因正是这些关于界限的问题”。


“这将会发生”


那么,当我们最终实现 AGI 这一圣杯时会发生什么呢?


AGI 是一种能力与人类智能相当,甚至超越人类智能的机器。


Altman 坦承地说:


“我认为,世界上很多人都非常恐惧 AGI,这是可以理解的,或者说,甚至非常害怕当前的人工智能,但又对它感到非常兴奋——甚至更加害怕,也更加兴奋于它的发展方向。”


“我们正在努力解决这个问题,但我认为这种情况是不可避免的。


他似乎意识到了真正颠覆的可能性,并同意“很多事情都会改变。而改变会让人们感到相当不舒服。因此,我们必须做好很多事情。”


不过,最终,Altman 也相信这一切都将“带来巨大的好处。但我们必须找到如何以合理的方式实现这一目标。”Altman 甚至一度强调,OpenAI 的使命“是朝着 AGI 迈进——并弄清楚如何广泛分配其好处。”


在结束采访之前,奥尔特曼真诚地表达了他对未来漫长道路的热情。


“我非常关心 AGI,并且认为这是世界上最有趣的工作。

作者:场长

评论