91 国产 天才科学家死字,今天通盘 AI 圈齐在驰念他
91 国产
距离 Deepmind 接头科学家 Felix Hill 在 X 平台上最近一次发声依然往常接近两个月了。
不幸的是,这位接头科学家因耐久与严重精神疾病拒抗于旧年 12 月 5 日缺憾离开东说念主世。
而这一音书也由斯坦福大学兼职素养、Contextual AI CEO Douwe Kiela 在 X 平台证明。
悲讯传出后,许多 AI 圈东说念主士纷纷在 Douwe Kiela 的褒贬区驰念起这位一又友。
即等于与 Felix 有过学术不对的 Gary Marcus 也暗示:
尽管咱们无意会在学问层面产生不对,但听到这个音书我感到相称缺憾。愿他安息。
Udio CEO 集结首创东说念主 David Ding、Google 高档接头科学家 Nataniel Ruiz、Meta 及 OpenAI 等多位接头科学家也纷纷发文抒发哀念念。
愿死人安息,向他的一又友和家东说念主致以潜入的漫骂。
著名 AI 接头者、纽约大学素养 Kyunghyun Cho 曾与 Felix 在2014年夏天于蒙特利尔相识,后续也发文回忆旧事。其时 Kyunghyun 是博士后,而 Felix 是访谒学生。
他们因为一次对于语法结构的学术盘考而成为好友。
沿路进行接头办事后,他们取得的其中一项落幕是在 2016 年发表的论文中创造了「广宽表格」的趋势,这个作风在而后的 3-5 年里被学术界正常效仿。
东说念主虽已逝,但 Felix Hill 留住的不雅点晴明永存。
即等于未始谋面的同业也为其所校服。英伟达高档接头科学家 Jim Fan 今天也在 X 平台转发 Felix Hill 博客,并借此驰念这位一又友。
这是我读过的最令东说念主肉痛的博客,因为它是如斯真实,如斯迫临内心。
作家依然不在咱们身边了。我忍不住流下了眼泪……
我从未有幸在现实中知晓 Felix,但我喜爱他的接头视角,并为他的每一篇新论文成立了 Google Scholar 教唆。
他在智能体和 VLM 领域的办事对我的接头产生了深远影响。他本不错成为一个好一又友。我简直想要了解他,但现在依然再也莫得契机了。
他指导 AI 接头团队,却无法战胜我方内心的恶魔Linkedin 的公开贵府暴露, Felix Hill 是一个粗浅真理上获利优异的勤学生。
他本科毕业于牛津大学的数学专科,曾经担任牛津大学羽毛球队队长。接头生实习则在墨西哥国立自治大学,专科标的是融会科学、谈话学和教训,专注于多学科交叉领域(融会科学停战话学)。
这段资历不仅丰富了他的海外化视线,也拓宽了学术兴趣。
2011 年-2016 年, 他在剑桥大学先后攻读谈话学和计较谈话学,时代还担任高尔夫球队队长。
步入职场后,Felix 的业绩发展也可谓顺风顺水。
他曾投身教训业绩,担任 14 个月的数学教练,指导 14-18 岁的学生备考和请求大学;同期热心公益,复古当地教训非政府组织。
2016 年后,Felix 曾耐久在 Google Deepmind 办事。
在离世前,他在 Deepmind 主要负责迷惑着一个接头谈话与通用智能交互的团队。与此同期,他也运行将重点转上前沿科技接头,专注于谈话学、机器学习和 AI 模子开发。
Google 学术贵府暴露,其论文总援用次数达 19680 次,h 指数为42,其中 2020 年后的援用更高达 16608 次,对干系领域产生正常的影响。
在 X 平台,这位一又友在自我先容中写说念:
我试图庄重念念考每一条推文的内容,尤其是对于 90 年代足球和 80 年代音乐的部分。我的不雅点十足是我我方的,毫不代表他东说念主。
然则,这位在粗浅眼中取得广宽收效的 AI 接头科学家,却一直与严重的精神疾病拒抗。在 Felix 的博客中,他也记载了我方东说念主生终末阶段的的心路历程:
2023 年 4 月,他的母亲因阿尔茨海默病死字,同期他因急性神经病入院治疗,可能是压力诱发。而后 12 个月一直处于特地懆急和深度抑郁景色。
在得到了老板的意会和复古,包括治疗复古和精神关怀,以及经过 6 个月危及生命的抑郁期后运行好转,运行念念考并记载我方对压力与懆急的不雅察和意会。
然则,红运往往弄东说念主。旧年 12 月 5 日,这位一又友最终如故过早地离开东说念主世。
R.I.P.🕯️
附上 Jim Fan 转发 Felix Hill 的博客原文2000 亿权重的办事
当代 AI 办事的压力
作家:Felix Hill,2024 年 10 月
在往常两年里,AI 领域发生了不可逆转的变化。
ChatGPT 的月活跃用户已接近 2 亿东说念主次。Gemini 在 2024 年 5 月的访谒量接近 3.2 亿次。如今,AI 爱好者以致不错使用 AI 微波炉、AI 牙刷,以致是 AI 足球。
然则,对于咱们许多从事 AI 办事的东说念主来说,这种民众兴趣的激增既是一种福祉,亦然一种包袱。照实,薪资水平提高了,股票价钱和市集估值也随之高潮。但与此同期,这种变化也带来了一种独到的压力。
这篇博客是对于当代 AI 带来的压力的。它的目的读者是那些从事 AI 办事的东说念主(据保守推测,这梗概占天下东说念主口的 87%),尤其是那些从事 AI 接头的东说念主员。
最终,我但愿通过盘考 AI 接头中让东说念主感到压力的要素,约略让那些有幸从事这一领域的东说念主生活变得愈加鼎沸。因为尽管刻下一派繁杂,这依然是一份好意思好而充实的处事;一个有后劲解答许多科学、玄学乃至东说念主类自身伟大问题的处事。
无处走避
几个月前,我进入了一个一又友的 40 岁生辰派对。咱们是密友,是以我知晓派对上的不少客东说念主,有些东说念主还相称老练。但也有一些东说念主是我十足不知晓的。
在那些我不太老练的东说念主中,我隆重到一个奇怪的征象。
尽管我其时身段不太好(稍后会提到这个),显然也不太想主动参与交谈,但周围如故排起了一小队东说念主,只因为全球知说念我在 DeepMind 办事,许多东说念主想和我交谈。
这些对话并不是对于足球或 80 年代音乐这么让东说念主收缩的话题,而是对于我最想幸免的一个话题:AI。天然全球对我的办事感兴趣让我感到大喜过望,但这也让我意志到往常两年间发生了何等广宽的变化。银大众、讼师、医师和经管参谋人齐想让我对 ChatGPT 发表看法;尽管他们中的很少东说念主径直在办事中使用这些 LLM,但他们齐确信 AI 正在发生一些迫切的变化,而这是他们必须了解的。
当作又名接头东说念主员,我信赖你能意会那种在外交方法无法「关闭开关」的嗅觉。
但事情变得更糟了。以致在我我方家里,我也无法逃离。
我早已不看新闻,因为窄小激发懆急。但即使在看足球、VH1、蒙塔尔巴诺探长,或者那部精彩的《那不勒斯四部曲》的改编电视剧时,告白中也充满了对 AI 的说起。
在这段时刻,我时时想打理行李,朝上大陆,加入一个隐居的宗教团体。尽管我不会感到讶异,以致 Vipassana 瑜伽现在可能也在某种进程上被 AI 浸透了。
隐含的竞争
几家大公司似乎在竞争开发最大、最刚劲的大型谈话模子,这自己就带来了广宽的压力;无论你为哪家公司办事。
在面前的 AI 接头中,无意会让东说念主嗅觉像是在参与一场战争。从阿说念夫·希特勒到荷兰·舒尔茨,咱们齐知说念,参与战争可能会导致严重的后果,包括精神疾病、离异和自尽。
天然,这并不是将参与 AI 接头等同于「确切战争」中的身段战斗。但根据我的躬行资历,这两者之间的相似性尽管略显牵强,却是真实存在的。
影响公司底线
时时来说,从事工业接头的接头东说念主员并不民风于我方的办事会对老板的底线产生径直而即时的影响。
天然,许多接头东说念主员遐想着能有这么的契机。但往常这时时只是十年才会发生一次的事情。
如今,基础接头对 LLM 的落幕时时仅能导致模子性能的细微、短期的波动。然则,由于公众对 LLM 性能的高度关注,这些波动可能反过来导致股价的数十亿好意思元波动。
这种动态显然相称具有压力,而这并不是 AI 接头东说念主员在接头生院、博士后以致 2022 年之前的办事中所能被考验冒昧的。
资产,资产,资产
大多数 AI 接头东说念主员,尤其是那些特出一定年事的东说念主,从事接头的初志并不是为了获利。为我方喜爱的办事赚到一大笔钱听起来像是一剂良药,但这不异可能激发浓烈的懆急感。独特是当促使收入加多的外部要素不在我方掌控之中,或者这些要素让我方对这份办事的喜爱减退时,这种懆急尤为昭着。
无论是否与 AI 策动,无数左证标明,片刻累积财富可能激发多样问题;只需望望那些经过多年竭力终于通宵成名的演员或歌手就知说念了。成瘾、突破的关系、幻灭的友谊,以致自尽,齐是一些较为常见的后果。这些问题让我个东说念主深有体会。
科学家无须武之地
LLM 的界限、浅易性和高效性使得科学接头很难变得「干系」,也就是说,很难径直匡助提高 LLM 的性能。
许多顶尖的 LLM 接头东说念主员依然运行真贵 Rich Sutton 的「苦涩教养」:简直不需要任何超越界限推广以外的改换。
即使表面上存在进行实质性改换的可能性(毫无疑问是存在的),要完满这些改换往往需要在不同条目下反复考验最大界限的 LLM。这以致是面前最大的公司齐难以承担的事情。对于又名「普通」的接头科学家来说,这种情况可能令东说念主心力交瘁。
这些条目对那些民风于在小团队(5-10 东说念主)中办事的工业科学家来说依然相称严峻。而对于学术界的 PhD、博士后以及 AI/CS/ML 的教职东说念主员来说,这种压力无疑愈加重烈。
发表论文
尽管学术界的接头东说念主员不错(况且应该)不绝发表他们从 LLM 实验中得到的见解,但对于工业界的科学家来说,发表论文是否仍然是接头的一种可行落幕却变得越来越不敬佩。
发表论文耐久以来一直是科学历程的中枢部分,亦然 AI 接头的迫切原则。大多数我交谈过的 AI 接头东说念主员,独特是接头科学家,齐认为发表论文是咱们处事活命中不可或缺的一部分。
然则,至少在工业界,在往常两年中,是否将接头落幕发表当作一种可行的罗致变得越来越不敬佩。即等于约略略略改善 LLM 性能的一些小技艺,也可能成为 LLM 战争中的要道「火器」。是否应该公开这些「玄妙」,以及这是否对资助接头的机构故意,长久是一个神秘的问题。
这一切齐意味着接头东说念主员时时无法截至我方想法的红运。而至少对我来说,这种情况会激发极大的压力。
初创企业
天然,从这些担忧中逃离的一种可能道路是酿成一个科学愿景,筹集资金,创建一家初创企业。事实上,刻下 AI 初创企业(无论大小)的激增标明,许多科学家依然罗致了这条说念路。
然则,成为首创东说念主并不可保证你约略解脱与压力干系的问题。事实上,这条说念路以其高压力而有名。即便在刻下投资者暖热高潮的情况下,许多资金足够的 AI 初创企业仍然失败。根据我的躬行资历,当作又名首创东说念主是一段独特孤独的旅程。这无疑是刻下有抱负的科学家的一种可行罗致,但它并不会让科学接头变得松驰,也不会减轻压力。
为什么我罗致写一篇对于压力的博客?
往常两年对 AI 天下来说是繁杂而任意的,同期对我个东说念主而言,亦然独特飘荡的时期。
在 2023 年 4 月,我的母亲在与阿尔茨海默病耐久斗争后死字了。而那时,我因急性神经病住在神经医院,压力很可能是诱发这一切的迫切要素。在接下来的 12 个月里,我表面上是在收复,但实践上却一直处于特地懆急和深度抑郁的景色。在这段时刻里,我相称侥幸领专门会我处境的老板(以及认同我对公司孝敬的价值),他们为我提供了合手续的治疗复古和说念德上的关怀。
又经过了 6 个月的危及生命的抑郁期后,我终于运行感到好转,最近也合计有材干写下我方的资历。我意志到,压力和懆急老是坐卧不离;事实上,它们可能骨子上是归拢趟事。天然,像任何一种合乎性特色一样,懆急在一定进程上是有益的(举例它不错提高分娩力),但当懆急变得恶性时,后来果可能会相称严重。
恰是在总结往常两年 AI 领域的资历,同期竭力再行学习如何成为又名 AI 接头员的历程中,我得到了我在这篇博客平共享的见解。天然,只是共享这些见解并不可处置统共问题,但在我最黯澹的时刻,唯独让我看到但愿的事情之一是知说念我并不寂然。若是你现在正处于祸害之中,请信赖我——你并不寂然。
外交懆急
我依然盘考了许多可能让刻下从事 AI 接头的东说念主感到压力或懆急的原因。但还有一种压力神志我尚未说起,因为我很侥幸我方从未资历过。这种压力就是外交懆急。
人妻斩根据一又友们的态状,那些有外交懆急的东说念主会合计群体互动充满挑战。而在当代 AI 的天下里,这么的阻扰尤为凸起,因为大型技俩团队和跨洲际配合依然成为必不可少的部分。面前行业内的高流动率只会让问题变得更为严峻,因为依然拓荒的团队(时时被视为一种外交「安全网」)可能在通宵之间被谮媚。而东说念主员的频繁流动也会导致信任问题,因为曾经可靠的盟友可能会加入「歧视」的接头团队。
好音书是,正如我之前盘考的统共懆急或压力的弘扬一样,外交懆急亦然不错被克服的。克服的历程始于培养天然的复古网罗,举例依靠家东说念主和「非 AI」领域的一又友。但要道的第二步是,咱们统共从事 AI 办事的东说念主运行并合手续进行对于压力的坦诚对话。
因此91 国产,请通过推文或褒贬共享你的资历。让咱们沿路竭力,让 AI 接头不单是是一个充满活力、充满智商挑战的场所,更是一个充满可怜良善意的领域。