OpenAI董事會(huì)炒掉創(chuàng)始人,他們打算拯救人類!

Caibiao

OpenAI“宮斗”再反轉(zhuǎn)！奧特曼將回歸公司擔(dān)任首席執(zhí)行官

深圳特區(qū)報(bào)

11月22日蹭秋，OpenAI宣布挥肤，已經(jīng)原則上達(dá)成協(xié)議姐药，奧特曼將重返OpenAI擔(dān)任首席執(zhí)行官檀萝。


（來源：X）

OpenAI在聲明中還指出朋凰，“組建由董事會(huì)主席Bret Taylor卤连、Larry Summers和Adam D'Angelo組成的新董事會(huì)∏樽椋”

據(jù)了解燥筷，Bret Taylor將出任新的董事會(huì)主席，其曾在Facebook呻惕、推特荆责、賽富時(shí)擔(dān)任過高管滥比；Larry Summers則是投資者們頗為熟悉的美國(guó)前財(cái)長(zhǎng)亚脆；Adam D'Angelo為原董事會(huì)成員，同時(shí)也是美國(guó)“知乎”Quora聯(lián)合創(chuàng)始人盲泛。

隨后濒持，OpenAI創(chuàng)始人Sam Altman在X上發(fā)文稱，“我喜歡OpenAI寺滚，過去幾天我所做的一切都是為了讓這個(gè)團(tuán)隊(duì)及其使命保持一致柑营。當(dāng)我決定在周日晚上加入微軟時(shí)，很明顯這是我和團(tuán)隊(duì)最好的路徑村视。有了新的董事會(huì)和薩蒂亞（微軟CEO）的支持官套，我期待著回到OpenAI，并在我們與微軟的強(qiáng)大合作關(guān)系上繼續(xù)建設(shè)蚁孔∧膛猓”


（來源：X）

隨著奧特曼的回歸，這場(chǎng)持續(xù)了100余小時(shí)的 AI巨頭美國(guó)開放人工智能研究中心“宮斗”尔粮，以奧特曼的回歸暫時(shí)劃上句號(hào)辱涨。

此前，當(dāng)?shù)貢r(shí)間11月17日激靡，OpenAI宣布CEO奧特曼將離開公司开撤，并表示奧特曼的離職是董事會(huì)在深思熟慮的審查過程后得出的結(jié)果，“他在與董事會(huì)的溝通中并不一貫坦誠娩纱，阻礙了董事會(huì)履行職責(zé)的能力”擅啸，董事會(huì)不再相信他繼續(xù)領(lǐng)導(dǎo)OpenAI的能力。當(dāng)?shù)貢r(shí)間19日晚間适固，美國(guó)微軟公司首席執(zhí)行官（CEO）納德拉證實(shí)碎领，OpenAI創(chuàng)始人兼前CEO奧特曼將加盟微軟，領(lǐng)導(dǎo)新的高級(jí)人工智能研究團(tuán)隊(duì)誊涯。

Caibiao

現(xiàn)在或許只能指望OpenAI首席科學(xué)家伊爾亞·蘇茨克維（Ilya Sutskever）能夠堅(jiān)定守住其本心挡毅！關(guān)鍵時(shí)刻能勒得住韁繩！

Caibiao

又或許暴构，人類的貪婪注定了其悲劇性結(jié)局９虺省！

希望只是或許Ｈ∮狻耗绿！

MeiTai

推動(dòng)奧爾特曼下臺(tái)的三名成員已經(jīng)離開了董事會(huì)

紐約時(shí)報(bào)中文網(wǎng)

推動(dòng)奧爾特曼下臺(tái)的三名成員已經(jīng)離開了董事會(huì)。

這批人代表著十年前積極參與思考人工智能的那批人砾隅，他們對(duì)這項(xiàng)技術(shù)既恐懼又敬畏误阻，擔(dān)心AI超出我們的控制能力。

但如今強(qiáng)大的人工智能不再只是一個(gè)思想實(shí)驗(yàn)晴埂，ChatGPT每天被不計(jì)其數(shù)的人使用究反，也服務(wù)著投入巨額資金的科技巨頭。https://t.co/Xnb3H3rLn5

— 紐約時(shí)報(bào)中文網(wǎng) (@nytchinese) November 23, 2023

過去五天在OpenAI發(fā)生的事情可以有多種描述方式：一場(chǎng)刺激的董事會(huì)鬧劇儒洛，一場(chǎng)圍繞美國(guó)最大初創(chuàng)企業(yè)之一的拉鋸戰(zhàn)精耐，一場(chǎng)希望人工智能更快發(fā)展的人與希望放慢發(fā)展速度的人之間的沖突。

但最重要的是琅锻，這是一場(chǎng)人工智能兩種不同愿景之間的較量竿饭。

在其中一種愿景下，人工智能是一種變革性的新工具肴泥，是一系列改變世界的創(chuàng)新中最新的一種——這些創(chuàng)新包括蒸汽機(jī)不凳、電力和個(gè)人電腦——如果使用得當(dāng)，可能會(huì)開啟一個(gè)繁榮的新時(shí)代，并為利用其潛力的企業(yè)賺取大量財(cái)富断憨。

在另一種愿景下夜痊，人工智能更接近于一種外星生命形式——從神經(jīng)網(wǎng)絡(luò)的數(shù)學(xué)深處召喚出來的怪獸——必須極其謹(jǐn)慎地加以限制和部署，以防止它接管并殺死我們所有人瑰保。

隨著薩姆·奧爾特曼周二重返OpenAI淆捆，兩種觀點(diǎn)之間的斗爭(zhēng)似乎結(jié)束了。上周五柱阱，OpenAI董事會(huì)解除了他的首席執(zhí)行官職務(wù)暑懊。

資本主義隊(duì)勝。利維坦隊(duì)負(fù)概尝。

OpenAI的新董事會(huì)將由三人組成蜒金，至少在一開始是這樣：Quora首席執(zhí)行官亞當(dāng)·迪安吉洛 （他也是舊董事會(huì)唯一一位留任者）；Facebook和Salesforce前高管布雷特·泰勒承边；以及前財(cái)政部長(zhǎng)勞倫斯·薩默斯遭殉。預(yù)計(jì)董事會(huì)將在此基礎(chǔ)上擴(kuò)大規(guī)模。

OpenAI的最大投資者微軟預(yù)計(jì)也將在OpenAI未來的治理中擁有更大的發(fā)言權(quán)博助，可能包括一個(gè)董事會(huì)席位险污。

推動(dòng)奧爾特曼下臺(tái)的三名成員已經(jīng)離開了董事會(huì)：OpenAI首席科學(xué)家伊利亞·蘇茨克韋爾（他后來撤回了自己的決定）；喬治城大學(xué)安全與新興技術(shù)中心戰(zhàn)略主管海倫·托納富岳；以及企業(yè)家和蘭德公司研究員塔莎·麥考利蛔糯。

蘇茨克韋爾、托納和麥考利可以代表十年前積極參與思考人工智能的那批人窖式，他們是學(xué)者蚁飒，硅谷未來學(xué)家和計(jì)算機(jī)科學(xué)家的混合體。他們對(duì)這項(xiàng)技術(shù)既恐懼又敬畏萝喘，并擔(dān)心理論上的未來事件淮逻，比如“奇點(diǎn)”(singularity)，即人工智能超出我們的控制能力蜒灰。許多人都屬于有效利他主義者等哲學(xué)團(tuán)體弦蹂，這是一個(gè)利用數(shù)據(jù)和理性做出道德決定的運(yùn)動(dòng)哥钉，他們之所以決定從事人工智能工作蜗原，是出于將技術(shù)的破壞性影響降到最低的愿望。

這就是2015年人工智能研究的氛圍峦铲，當(dāng)時(shí)OpenAI作為一家非營(yíng)利組織成立嗤锯，這有助于解釋為什么該組織在2019年成立營(yíng)利性部門后仍然保持其復(fù)雜的治理結(jié)構(gòu)——令非營(yíng)利董事會(huì)可以控制公司的運(yùn)營(yíng)，并更換其領(lǐng)導(dǎo)層筑轻。當(dāng)時(shí)钉栈，許多業(yè)內(nèi)人士認(rèn)為，保護(hù)人工智能不受資本主義力量的影響是當(dāng)務(wù)之急，需要寫入公司章程和章程文件滥庭。

但自2019年以來扑诈，情況發(fā)生了很大變化。強(qiáng)大的人工智能不再僅僅是一個(gè)思想實(shí)驗(yàn)——它存在于真實(shí)的產(chǎn)品中胞讯，比如每天被數(shù)以百萬計(jì)的人使用的ChatGPT很刃。世界上最大的科技公司正在競(jìng)相打造更強(qiáng)大的系統(tǒng)。數(shù)十億美元被用于在企業(yè)內(nèi)部構(gòu)建和部署人工智能炸涝，以期降低勞動(dòng)力成本昼浦，提高生產(chǎn)率。

新的董事會(huì)成員是意料之中的那種可以監(jiān)督這類項(xiàng)目的商業(yè)領(lǐng)袖筒主。新任董事會(huì)主席泰勒是一位經(jīng)驗(yàn)豐富的硅谷交易撮合者关噪，去年擔(dān)任Twitter董事會(huì)主席期間，他牽頭將Twitter出售給了埃隆·馬斯克乌妙。薩默斯是超級(jí)資本主義者——一位杰出的經(jīng)濟(jì)學(xué)家使兔，他說他相信技術(shù)變革對(duì)社會(huì)“只有好處”。

在重組后的OpenAI董事會(huì)中藤韵，可能仍然會(huì)有謹(jǐn)慎的聲音火诸，也可能會(huì)有來自人工智能安全運(yùn)動(dòng)的人物。但他們不會(huì)擁有否決權(quán)荠察，也不會(huì)像過去的董事會(huì)那樣有能力立即關(guān)閉公司置蜀。他們的偏好將與公司高管和投資者等其他人的偏好相平衡。

如果你是微軟悉盆，或者其他成千上萬依賴OpenAI技術(shù)的企業(yè)中的任何一家盯荤，這無疑是一件好事。更傳統(tǒng)的治理意味著突發(fā)的風(fēng)險(xiǎn)更小焕盟，會(huì)迫使你匆忙更換人工智能提供商的變化風(fēng)險(xiǎn)也更小秋秤。

也許OpenAI發(fā)生的事情——企業(yè)利益戰(zhàn)勝了對(duì)未來的擔(dān)憂——是不可避免的，因?yàn)槿斯ぶ悄茉絹碓街匾称Ｒ豁?xiàng)有可能引領(lǐng)第四次工業(yè)革命的技術(shù)纷辈，不太可能長(zhǎng)期被那些想要減緩其發(fā)展的人所控制——尤其是在事關(guān)巨額投資的情況下。

人工智能行業(yè)仍然有一些舊觀念的痕跡卤酬。OpenAI的競(jìng)爭(zhēng)對(duì)手Anthropic是由一群前OpenAI員工創(chuàng)建的膛躁，它將自己定位為一家公益公司，這種法律結(jié)構(gòu)旨在使其免受市場(chǎng)壓力影響枕娱。一個(gè)活躍的開源人工智能運(yùn)動(dòng)主張人工智能不受企業(yè)控制赢虚。

但這些最好被視為人工智能舊時(shí)代的最后遺跡，在那個(gè)時(shí)代叶素，人工智能的創(chuàng)造者對(duì)這項(xiàng)技術(shù)既好奇又恐懼舰秀，并試圖通過組織治理來限制它的力量波媒。

現(xiàn)在，烏托邦主義者占據(jù)了主導(dǎo)地位枚鸭。全速前進(jìn)腮鹦。

MeiTai

威脅人類?OpenAI的神秘重大突破Q*算法究竟是什么

華爾街見聞

盡管OpenAI宮斗大戲告一段落，但仍留下了許多未接的謎題饵较。其中最為關(guān)鍵的溉跃，就是現(xiàn)（前）CEO 奧特曼為何會(huì)被解雇。

OpenAI CTO Mira Murati此前在致員工的內(nèi)部信件中提到了一個(gè)代號(hào)為“Q*”的項(xiàng)目告抄。據(jù)她稱撰茎，該項(xiàng)目為"董事會(huì)對(duì)奧特曼的一系列不滿中的因素之一"。

據(jù)多家媒體猜測(cè)打洼，Q*讓OpenAI實(shí)現(xiàn)AGI的步伐大大提速龄糊，但奧特曼可能沒有和董事會(huì)詳細(xì)披露Q*的進(jìn)展到底有多大，這也符合董事會(huì)在解雇奧特曼時(shí)所說的“在與董事會(huì)溝通時(shí)沒有始終保持坦誠”募疮。

就在被解雇之前炫惩，奧特曼還在公開活動(dòng)中表示：

“在OpenAI的歷史上，我們已經(jīng)取得了4次突破阿浓，最近一次是在過去的幾周里他嚷。當(dāng)我們把無知的面紗撕下，把發(fā)現(xiàn)的前沿向前推進(jìn)時(shí)芭毙，我就在房間里筋蓖。”

所謂的第四次突破魁跷，指的可能就是Q*項(xiàng)目孟若。



什么是 Q*？

Q*讀作Q star洗念，目前OpenAI內(nèi)部沒有任何關(guān)于Q*的詳細(xì)信息流出炮方。

據(jù)一些業(yè)內(nèi)人士猜測(cè)，它可能是是機(jī)器學(xué)習(xí)算法Q-Learning（Q學(xué)習(xí)）的同義詞提蕴，也許是OpenAI借助Q學(xué)習(xí)算法打造的新模型的代號(hào)誊批，也許是一個(gè)相關(guān)的項(xiàng)目名稱。

根據(jù)天風(fēng)證券分析師孔蓉的說法：

Q學(xué)習(xí)是一種基于強(qiáng)化學(xué)習(xí)的算法灼镣，用來在馬爾科夫決策過程中求解最優(yōu)控制問題卦唇。它的目標(biāo)是通過學(xué)習(xí)最優(yōu)策略，使智能體在未知環(huán)境中做出最佳選擇刷络。

Q學(xué)習(xí)依據(jù)貝爾曼方程更新狀態(tài)-動(dòng)作對(duì)應(yīng)的Q值甥迷，逼近最優(yōu)值函數(shù)。智能體通過與環(huán)境交互丽优，觀察到新的狀態(tài)和獎(jiǎng)勵(lì)歹恬，來更新執(zhí)行各個(gè)動(dòng)作的Q值。

所謂貝爾曼方程手趣，也被稱為動(dòng)態(tài)規(guī)劃方程晌该，是指數(shù)學(xué)家理查德·貝爾曼提出的用于解決復(fù)雜多階段問題的公式，通過求解該方程可以找到最優(yōu)值函數(shù)和最優(yōu)策略绿渣。

運(yùn)行算法的人（或計(jì)算機(jī)）可以輸入一個(gè)目標(biāo)函數(shù)朝群，例如“旅行時(shí)間最短、成本最低中符、利潤(rùn)最大姜胖、效用最大”等。然后淀散，算法將決定采取何種最佳行動(dòng)來實(shí)現(xiàn)預(yù)期結(jié)果右莱。

簡(jiǎn)單來說，Q學(xué)習(xí)可以通過探索所有可能的路徑档插，學(xué)習(xí)到通往預(yù)期獎(jiǎng)勵(lì)的最短路徑（最短路線）慢蜓，通過試錯(cuò)找到更優(yōu)化的路徑，并隨著時(shí)間的推移達(dá)到優(yōu)化狀態(tài)郭膛，每次都做出更好的決策晨抡。

據(jù)媒體報(bào)道，在奧特曼被解雇之前盏酵，OpenAI在內(nèi)部對(duì)Q*進(jìn)行了演示慷抛，顯示Q*能夠解決小學(xué)程度的數(shù)學(xué)問題。

雖然完成小學(xué)數(shù)學(xué)題聽起來沒什么出色之處蚊霞，但科技博客PC Guide指出袋凶，OpenAI使用的Q*可能是指貝爾曼方程中的最優(yōu)值函數(shù)。

換句話說痢腋，Q*可能代表OpenAI找到或接近了效率優(yōu)化算法的最優(yōu)解弦捶，實(shí)現(xiàn)了通往AGI的關(guān)鍵一步。

Q*會(huì)產(chǎn)生哪些后續(xù)影響二场？

目前党砸，OpenAI還沒有對(duì)關(guān)于Q*的一系列問題做出回應(yīng)。

根據(jù)天風(fēng)證券分析師孔蓉的觀察缤棍，OpenAI近期的招聘進(jìn)程表明其在進(jìn)一步增強(qiáng)強(qiáng)化學(xué)習(xí)系統(tǒng)的決策能力莉狠。

OpenAI近期持續(xù)引入強(qiáng)化學(xué)習(xí)和決策算法研究人員。23年7月份新引進(jìn)的研究員Noam Brown衅快，開展多步推理和多智能體互動(dòng)方面的研究堪俩。

Noam Brown 此前參與發(fā)表的工作將語言模型與規(guī)劃和強(qiáng)化學(xué)習(xí)算法結(jié)合，大幅提升了AI在復(fù)雜策略游戲中的表現(xiàn)般甲，開發(fā)出第一批在德?lián)錈o上限游戲中擊敗頂級(jí)玩家的AI肋乍。

OpenAI 近期于 5 月份發(fā)布的研究也表明鹅颊，調(diào)整訓(xùn)練方式和引入更大規(guī)模的監(jiān)督數(shù)據(jù)，將會(huì)顯著提升強(qiáng)化學(xué)習(xí)系統(tǒng)的數(shù)學(xué)推理能力墓造。OpenAI 引入針對(duì)過程的強(qiáng)化學(xué)習(xí)監(jiān)督堪伍，進(jìn)一步提升大模型在數(shù)據(jù)推理與計(jì)算的準(zhǔn)確性。

據(jù)孔融推測(cè)觅闽，強(qiáng)化學(xué)習(xí)與決策算法進(jìn)步或帶來Q*大模型能力突破帝雇，GPT4 + 強(qiáng)化學(xué)習(xí)和決策算法，或能實(shí)現(xiàn)更強(qiáng)的AI Agent能力蛉拙。

YinJi

OpenAI權(quán)力更迭背后：最特殊董事會(huì)成員成關(guān)鍵人物

騰訊科技

In the surprise ouster and restoration of OpenAI CEO Sam Altman, Adam D’Angelo managed to play a role on each side of the drama https://t.co/Xk1pml2s2fhttps://t.co/Xk1pml2s2f

— The Wall Street Journal (@WSJ) December 1, 2023

據(jù)外媒報(bào)道尸闸，人工智能研究公司OpenAI最近經(jīng)歷了首席執(zhí)行官山姆·奧特曼（Sam Altman）被突然解雇又復(fù)職的風(fēng)波，而在這個(gè)過程中孕锄，只有一個(gè)人成功在兩邊都扮演了關(guān)鍵角色吮廉，他就是亞當(dāng)·德安吉洛（Adam D’angelo）。

德安吉洛是Facebook的前高管硫惕，也是問答平臺(tái)Quora（美版知乎）的創(chuàng)始人茧痕。他是投票支持解雇奧特曼的四名董事會(huì)成員之一，也是這家人工智能公司新組建董事會(huì)中唯一留任的原董事察贵。這讓德安吉洛處于一個(gè)獨(dú)特的位置慢况，將在奧特曼重新?lián)问紫瘓?zhí)行官后在公司未來治理方面發(fā)揮核心作用。

據(jù)知情人士透露旋喊，在奧特曼回歸的談判中阀秤，德安吉洛曾是雙方唯一能達(dá)成一致的董事人選。知情人士說哲陷，管理層不希望原董事會(huì)的三位獨(dú)立董事都留下鼠台，但原董事會(huì)堅(jiān)持要求他們?cè)谛录軜?gòu)下保留一名代表。

知情人士說墙议，在新董事會(huì)中确缩，德安吉洛預(yù)計(jì)將幫助確保董事會(huì)積極行使監(jiān)督權(quán)力，并與管理團(tuán)隊(duì)以外的員工建立直接聯(lián)系久挖。他是三位即將上任的新董事之一缎苞，另外兩位是曾擔(dān)任Salesforce聯(lián)合首席執(zhí)行官和Twitter董事長(zhǎng)的科技界資深人士布雷特·泰勒（Bret Taylor,），以及曾擔(dān)任美國(guó)財(cái)長(zhǎng)和哈佛大學(xué)校長(zhǎng)的拉里·薩默斯（Larry Summers）歹对。微軟還獲得了一個(gè)無投票權(quán)的董事會(huì)觀察員席位售碳。

幾位曾與德安吉洛共事過的人說，他是個(gè)有原則绞呈、謹(jǐn)慎的人贸人，經(jīng)常通過直接、尖銳的提問來幫助自己做出決定佃声。德安吉洛傾向于保持低調(diào)艺智，很少出現(xiàn)在媒體上倘要，這與奧特曼形成了鮮明對(duì)比。多年來力惯，奧特曼與科技記者建立了良好的關(guān)系碗誉。

德安吉洛是Facebook聯(lián)合創(chuàng)始人馬克·扎克伯格（Mark Zuckerberg）在新罕布什爾州菲利普斯罢偎唬克塞特學(xué)院的高中同學(xué)父晶，兩人一起在科技行業(yè)的核心圈子工作。不過弄跌，他并不像扎克伯格那樣出名甲喝。

德安吉洛生于紐約，2006年畢業(yè)于加州理工學(xué)院铛只，獲得計(jì)算機(jī)科學(xué)學(xué)士學(xué)位贵本。同年，他成為Facebook的首席技術(shù)官尸校，該公司那時(shí)還沒有更名為Meta Platforms穴愕。2008年，德安吉洛離職替程，并于第二年創(chuàng)立了Quora渗蜀。不僅如此，他還獨(dú)具慧眼撕陈，投資了一些初創(chuàng)公司历喊，包括被Meta收購前的Instagram。

知情人士說生凯，由于過于拼命地打字和寫代碼法竭，德安吉洛在23歲時(shí)患上了重復(fù)性勞損，工作時(shí)需要戴上手腕支架啥葡。據(jù)悉蚣殴，在Quora創(chuàng)辦早期，德安吉洛曾與扎克伯格發(fā)生過爭(zhēng)吵政模，部分原因是Facebook決定復(fù)制Quora的某些功能岗宣，后來兩人的關(guān)系有所改善。

德安吉洛和奧特曼都是40歲左右的硅谷精英览徒，兩人在2010年左右通過硅谷的社交圈子結(jié)緣狈定。2014年，Quora加入了創(chuàng)業(yè)孵化器Y Combinator习蓬，當(dāng)時(shí)奧特曼正好是這家公司的總裁纽什。

奧特曼對(duì)德安吉洛的評(píng)價(jià)極高，他說：“在討論硅谷最聰明的首席執(zhí)行官時(shí)躲叼，德安吉洛是少數(shù)幾個(gè)經(jīng)常被提及的名字之一芦缰。他有非常長(zhǎng)遠(yuǎn)的眼光企巢，這在如今的科技公司里已經(jīng)成為一種罕見的品質(zhì)∪美伲”

2017年浪规，Quora宣布獲得了8500萬美元融資，由YC Combinator旗下的YC Continuity基金和Collaborative Fund共同領(lǐng)投探孝。這筆交易使該平臺(tái)的估值在當(dāng)時(shí)超過了10億美元笋婿。

奧特曼于2018年邀請(qǐng)德安吉洛加入OpenAI董事會(huì)。此前迈堂，德安吉洛與OpenAI聯(lián)合創(chuàng)始人格雷格·布羅克曼（Greg Brockman）關(guān)系融洽列啃。布羅克曼因抗議奧特曼被解雇而辭職，如今耀佣，他和奧特曼一同回到了公司屉馋。

德安吉洛當(dāng)時(shí)在Twitter上寫道：“我仍然認(rèn)為，在考慮安全的情況下開發(fā)通用人工智能钳雄，既重要卻又不受重視伶段，我很高興為此做出貢獻(xiàn)≡惹梗”

據(jù)知情人士透露汞坚，進(jìn)入董事會(huì)后，德安吉洛開始幫助其他獨(dú)立董事了解OpenAI作為一家科技初創(chuàng)公司存在的問題泄廓。讓人感到意外的是复做，曾是奧特曼支持者的德安吉洛，后來卻投票支持罷免了他权浸。不過旬渤，奧特曼回歸后，德安吉洛又在新董事會(huì)中占據(jù)了一席之地奄容。

OpenAI的董事會(huì)十分特殊冰更。該公司由非營(yíng)利機(jī)構(gòu)管理營(yíng)利性子公司，而后者可以從微軟等投資者和風(fēng)險(xiǎn)投資家那里獲得資金昂勒。但是蜀细，董事會(huì)同時(shí)負(fù)責(zé)監(jiān)督非營(yíng)利性部門和營(yíng)利性部門，且不受制于投資者戈盈，也不用一味地追求股東利益最大化奠衔。

在Quora，德安吉洛自成立以來始終擔(dān)任首席執(zhí)行官塘娶，該平臺(tái)稱其每月用戶超過4億归斤，并與谷歌、Reddit和維基百科等也幫助人們?cè)诰€查找信息的巨頭進(jìn)行競(jìng)爭(zhēng)。

作為OpenAI的客戶脏里，Quora也提供一款名為Poe的產(chǎn)品她我，與OpenAI的聊天機(jī)器人ChatGPT競(jìng)爭(zhēng)。Poe于今年2月公開發(fā)布迫横，Quora將其描述為一個(gè)“為無縫對(duì)話體驗(yàn)番舆、提高生產(chǎn)效率和創(chuàng)造性內(nèi)容生成而設(shè)計(jì)的平臺(tái)”。在最近的一次人工智能活動(dòng)中飘缨，德安吉洛表示：“Quora目前的大部分精力都投向了Poe吗修。”

奧特曼周三在X上發(fā)帖稱铃踪，德安吉洛一直向他和OpenAI董事會(huì)明確表示颂芒，公司與Quora之間存在潛在的利益沖突菠告。不過他也提到漏碰，德安吉洛已經(jīng)采取措施“控制局勢(shì)”，比如“在適當(dāng)?shù)臅r(shí)候選擇回避”蚜冀。

到目前為止肯铣，奧特曼和德安吉洛的關(guān)系還不錯(cuò)。感恩節(jié)當(dāng)天逞扰，奧特曼曾在X上發(fā)帖稱诉鸯，他和德安吉洛“在一起度過了非常美好的幾個(gè)小時(shí)”，并祝福他們?nèi)腋卸鞴?jié)快樂唾浙。不久之后躬挺，德安吉洛轉(zhuǎn)發(fā)了這條帖子。

YinJi

人工智能將把我們帶往天堂還是地獄

DAVID BROOKS
紐約時(shí)報(bào) 2023年11月24日


JUMBO TSUI/TRUNK ARCHIVE

OpenAI的優(yōu)點(diǎn)之一是蛮放，它建立在不信任的基礎(chǔ)上缩抡。它最初是一個(gè)非營(yíng)利性的研究實(shí)驗(yàn)室，因?yàn)樗膭?chuàng)始人認(rèn)為包颁，人工智能不應(yīng)該由主要受利潤(rùn)驅(qū)動(dòng)的商業(yè)公司來開創(chuàng)瞻想。

隨著發(fā)展，OpenAI變成了一個(gè)可稱為卓有成效的矛盾體的東西：一家由非營(yíng)利董事會(huì)監(jiān)管的營(yíng)利性公司娩嚼，企業(yè)文化介于兩者之間蘑险。

公司里的許多人似乎同時(shí)受到三種激勵(lì)：科學(xué)家的探索欲望、資本家交付產(chǎn)品的欲望和行善者安全行事的欲望岳悟。

過去一周發(fā)生的事件——薩姆·奧爾特曼被解雇佃迄，經(jīng)歷各種跌宕起伏，被重新聘用——都圍繞著一個(gè)核心問題：這種卓有成效的矛盾體能否持續(xù)下去贵少？

一個(gè)組織或一個(gè)人能否同時(shí)保持科學(xué)家的頭腦呵俏、資本家的動(dòng)力和監(jiān)管機(jī)構(gòu)的謹(jǐn)慎？或者，正如查理·沃澤爾在《大西洋月刊》(The Atlantic)上所寫的那樣柴信，金錢總會(huì)勝出守犯？

重要的是要記住，人工智能與科技界的其他領(lǐng)域有很大不同浸弦。它（或者至少曾經(jīng)是）更加學(xué)術(shù)化飘示。人工智能這個(gè)領(lǐng)域的研究歷史可以追溯到幾個(gè)世紀(jì)前。即使在今天弹噩，該領(lǐng)域的許多巨頭也主要是研究人員每竿，而不是企業(yè)家——比如揚(yáng)·勒昆和杰弗里·辛頓這樣的人，他們?cè)?018年一起獲得了圖靈獎(jiǎng)（計(jì)算機(jī)領(lǐng)域的諾貝爾獎(jiǎng)）国赫，但現(xiàn)在塞俗，對(duì)于人工智能將把我們帶往何方，他們意見不一勉窟。

直到最近幾年皱埋，學(xué)術(shù)界的研究人員才陸續(xù)離開大學(xué)，涌向工業(yè)界糊批。谷歌母公司Alphabet拧移；微軟；OpenAI叛赚；還有擁有Facebook的Meta這些公司的研究人員仍然通過發(fā)表研究論文的方式相互交流澡绩，就像教授們那樣。

但這個(gè)領(lǐng)域的激昂與進(jìn)取俺附，與別的熱門創(chuàng)業(yè)領(lǐng)域并無不同肥卡。在過去一年左右的時(shí)間里，當(dāng)我與人工智能研究人員交談時(shí)事镣，我經(jīng)常覺得自己站在每小時(shí)五公里的機(jī)場(chǎng)移動(dòng)人行道上步鉴，而他們站在每小時(shí)6000公里的跑道上。研究人員不斷告訴我蛮浑，人工智能歷史的這一階段之所以如此令人振奮唠叛，正是因?yàn)闆]有人能預(yù)測(cè)接下來會(huì)發(fā)生什么【谥桑“作為人工智能研究人員艺沼，重點(diǎn)是你應(yīng)該了解正在發(fā)生的事情，我們不斷地感到驚訝蕴掏≌习悖”斯坦福大學(xué)博士候選人里希·博馬薩尼告訴我盛杰。
從事人工智能的人似乎同時(shí)經(jīng)歷著完全不同的大腦狀態(tài)瘾枉。我發(fā)現(xiàn)称痊，要寫關(guān)于人工智能的文章非常困難，因?yàn)槲覀兏静恢肋@項(xiàng)技術(shù)會(huì)把我們帶到天堂還是地獄缆兆，所以我對(duì)它的態(tài)度會(huì)隨著我的情緒而改變缸日。

播客主播、麻省理工學(xué)院科學(xué)家萊克斯·弗里德曼以科技界的懺悔之父形象出現(xiàn)狡允，他表達(dá)了我曾多次遇到的那種急劇變化的情緒：“你坐下來绝话，像父母一樣自豪，但幾乎是又驕傲又害怕页本，擔(dān)心這個(gè)東西會(huì)比我聰明得多狼隶。既像驕傲又像悲傷，幾乎像一種憂郁的感覺壮才，但最終還是喜悅赞约。”

當(dāng)我在5月份參觀OpenAI總部時(shí)口箭，我發(fā)現(xiàn)那里的文化令人印象深刻固弥。我采訪的許多人都是在OpenAI還是一個(gè)非營(yíng)利研究實(shí)驗(yàn)室的時(shí)候來到這里的，在ChatGPT的喧囂之前——當(dāng)時(shí)我們大多數(shù)人都沒有聽說過這家公司谋减∧党梗“我父母并不真正了解OpenAI是做什么的，”產(chǎn)品經(jīng)理喬安妮·姜（音）告訴我出爹，“他們說，‘你要離開谷歌缎除？’”參與創(chuàng)造了可視化工具DALL-E 2的研究人員馬克·陳（音）也有類似的經(jīng)歷严就。“在ChatGPT出現(xiàn)之前器罐，我媽幾乎每周都會(huì)給我打電話梢为，她會(huì)說，‘嘿轰坊，你知道铸董，你別再四處游蕩了，該去谷歌之類的公司上班了肴沫∷诤Γ’”這些人的主要?jiǎng)訖C(jī)并非金錢。

即使在GPT成為頭條新聞之后明因，置身OpenAI就像身處颶風(fēng)眼一樣脏貌。“這里感覺比世界上其他地方要平靜得多扭皿，”喬安妮·姜告訴我站绑〗估颍“從早期開始，它確實(shí)感覺更像是一個(gè)研究實(shí)驗(yàn)室季佣，因?yàn)槲覀冎饕徽衅秆芯咳藛T份帮，”招聘人員埃琳娜·查齊亞塔納西亞杜告訴我。后來溪茶，隨著我們的發(fā)展桥庵，每個(gè)人都開始意識(shí)到，工程和研究會(huì)帶來進(jìn)步侈滚÷撒辏”

我在那里沒有遇到任何“技術(shù)男”的氛圍，甚至沒有人有那種“我們正在改變世界”的不可一世——就是當(dāng)我是一項(xiàng)技術(shù)的先驅(qū)時(shí)可能會(huì)有這種架勢(shì)坞角。任人力副總裁的戴安·尹（音）告訴我：“我想用熱忱這個(gè)詞來形容這個(gè)團(tuán)隊(duì)……熱忱的感覺倾祈。”

通常晴叨，當(dāng)我作為一名記者訪問一家科技公司時(shí)凿宾，我能見到的高管很少，而我能采訪到的那些人個(gè)個(gè)守口如瓶兼蕊。而OpenAI只是拿出一張登記表初厚，然后就讓人來跟我交談了。

我承認(rèn)孙技，過去我走進(jìn)這些科技公司的時(shí)候产禾，會(huì)擺出一種防御性的人本主義架子：我告訴自己，這些人可能懂代碼牵啦，但他們可能不懂真正重要的文學(xué)和哲學(xué)亚情。
在OpenAI，我沒什么優(yōu)越感哈雏。戴安·尹從小跳舞楞件，出演過莎士比亞戲劇。尼克·萊德是加州大學(xué)伯克利分校的一名數(shù)學(xué)家裳瘪，在成為OpenAI的研究員之前土浸，他對(duì)一種叫做有限微分卷積的東西很感興趣。幾個(gè)人提到了一個(gè)研究方面的同事熟央，他本科學(xué)習(xí)物理學(xué)交豪，在茱莉亞音樂學(xué)院學(xué)習(xí)了兩年鋼琴，然后獲得了神經(jīng)科學(xué)的研究生學(xué)位辙紧。還有人告訴我瀑兜，他們最初的學(xué)術(shù)興趣是心靈哲學(xué)、語言哲學(xué)或符號(hào)系統(tǒng)苟可。公司技術(shù)人員蒂娜·埃盧恩多在加入OpenAI之前學(xué)習(xí)過經(jīng)濟(jì)理論按翅，并在美聯(lián)儲(chǔ)工作過尿绕。

盡管他們都給人留下深刻的印象，但我記得我當(dāng)時(shí)告訴自己：這不會(huì)持續(xù)太久憾侮。我覺得到處都是金錢的氛圍唧整。這些人可能是認(rèn)真的研究人員，但不管他們是否意識(shí)到這一點(diǎn)选畴，他們?nèi)栽跒橥瞥霎a(chǎn)品啊沟、創(chuàng)造收入和成為第一而競(jìng)爭(zhēng)。

很明顯作瞄，人們?cè)诎踩珕栴}上存在分歧茶宵。一方面，安全是每個(gè)人都關(guān)心的問題宗挥。例如乌庶，我問馬克·陳在DALL-E 2發(fā)布那天的心情∑豕ⅲ“很多時(shí)候都是這種憂慮的感覺瞒大。比如，我們是否能保證安全搪桂？”他說透敌。另一方面，與我交談的每個(gè)人都致力于OpenAI的核心使命——?jiǎng)?chuàng)造一種能夠?qū)崿F(xiàn)人工智能的技術(shù)踢械，能夠在廣泛的任務(wù)中匹配或超越人類智能酗电。

人工智能領(lǐng)域的卓越人物描繪出截然不同但又有說服力的前景。風(fēng)險(xiǎn)投資家馬克·安德森強(qiáng)調(diào)裸燎，它將極大地改變世界顾瞻，讓世界變得更美好。認(rèn)知科學(xué)家加里·馬庫斯描繪的場(chǎng)景同樣有說服力德绿，他說了這一切可能會(huì)出怎樣的問題。

沒有人真正知道誰是對(duì)的闸声，但研究人員只是繼續(xù)努力彻盐。他們的行為讓我想起了艾倫·圖靈在1950年寫的一句話：“我們只能看到前方很短的距離，但我們可以看到有很多事情需要做贿叉≡蚊Γ”

我曾希望OpenAI能夠找到解決這種對(duì)立的辦法，然而即便在當(dāng)時(shí)净纬，就已經(jīng)存在著擔(dān)憂膛画。正如OpenAI首席運(yùn)營(yíng)官布拉德·萊特卡普告訴我的那樣：“最重要的是，在我們成長(zhǎng)的過程中保持公司文化和使命導(dǎo)向打洋。真要說的話癞亩，真正讓我感到不安的是传等，如何在規(guī)模化的過程中保持這種專注绪痘○募椋”

這些話很有先見之明。組織文化不容易建立钱雷，卻很容易被摧毀骂铁。這個(gè)問題關(guān)系到世界的安危：剛剛被解放出來的奧爾特曼能否保持這種卓有成效的矛盾體，抑或他會(huì)屈服于拼命向前的壓力罩抗？

YinJi

OpenAI CEO奧特曼：董事會(huì)正在重新思考公司結(jié)構(gòu)

騰訊

12月6日消息拉庵，據(jù)外媒報(bào)道，周三在越南參加人工智能活動(dòng)時(shí)套蒂，人工智能研究公司OpenAI首席執(zhí)行官山姆·奧特曼（Sam Altman）表示钞支，他正在考慮改變公司的治理結(jié)構(gòu)，以修復(fù)“漏洞”泣懊。



幾周前信夫，奧特曼突然被OpenAI董事會(huì)解雇，后來重新復(fù)職卡啰。周三是該公司人事劇變以來静稻，奧特曼首次公開露面。他告訴觀眾匕冠，他對(duì)自己被解職感到“震驚”胚僧，但拒絕回答有關(guān)OpenAI秘密人工智能項(xiàng)目的問題。據(jù)報(bào)道逾族，該項(xiàng)目與董事會(huì)決定解雇他有關(guān)渡厦。

OpenAI最初是一家非營(yíng)利機(jī)構(gòu)，目前仍通過董事會(huì)進(jìn)行管理床斜，但它后來增加了一家營(yíng)利性子公司审鸿，以幫助籌集巨額資金，其中包括來自微軟的數(shù)十億美元投資好侈。

周三超茎，奧特曼在Vingroup旗下公司VinAI的會(huì)議上通過視頻表示：“目前的公司治理結(jié)構(gòu)顯然存在一些問題，我們的新董事會(huì)正在認(rèn)真考慮最適合我們使命的公司結(jié)構(gòu)瞻聪”牿”

OpenAI董事會(huì)對(duì)解雇奧特曼的決定幾乎沒有做出任何解釋，這引發(fā)了各種各樣的猜測(cè)椎崎。據(jù)報(bào)道铡说，在解雇奧特曼前幾天畸裳，該公司的研究人員警告稱，“一項(xiàng)強(qiáng)大的人工智能發(fā)現(xiàn)可能會(huì)威脅到人類”躏率，也是此次解雇背后引發(fā)的“諸多不滿之一”躯畴。

據(jù)報(bào)道，這一“發(fā)現(xiàn)”是個(gè)名為Q*的神秘項(xiàng)目薇芝。VinAI首席執(zhí)行官Hung Bui問奧特曼是否可以給出更詳細(xì)的說明蓬抄。但他只給出了簡(jiǎn)單回答：“顯然不能『坏剑”

在幾乎所有OpenAI員工和投資者的強(qiáng)烈抗議下嚷缭，奧特曼在被解職幾天后，在新董事會(huì)的領(lǐng)導(dǎo)下復(fù)職耍贾。

這并不是奧特曼第一次與OpenAI同事就人工智能倫理問題發(fā)生爭(zhēng)執(zhí)阅爽。此前，聯(lián)合創(chuàng)始人埃隆·馬斯克（Elon Musk）曾因此退出董事會(huì)荐开，還有多位員工辭職組建了OpenAI的競(jìng)爭(zhēng)對(duì)手Anthropic付翁。技術(shù)專家之間已經(jīng)形成了不同陣線，他們對(duì)通用人工智能的開發(fā)速度有多快晃听，以及這項(xiàng)技術(shù)會(huì)有多大危險(xiǎn)持不同意見百侧。

奧特曼說，OpenAI經(jīng)歷了一個(gè)“瘋狂”的時(shí)期呛米，包括從非營(yíng)利組織向部分營(yíng)利組織的轉(zhuǎn)變惕仪。他說：“我希望大家能有一點(diǎn)耐心，因?yàn)楣菊诮?jīng)歷這種不自然的快速增長(zhǎng)洒已，這對(duì)我們來說非常困難界贮，也非常痛苦∈芷叮”

VinAI已經(jīng)開發(fā)了名為PhoGPT的聊天機(jī)器人驾萄，使其成為為越南有能力訓(xùn)練大語言模型的少數(shù)公司之一。Vingroup公司還為電動(dòng)汽車公司VinFast和其他子公司研究人工智能技術(shù)浴蝉。

奧特曼表示危暇，OpenAI將發(fā)布更多的開源模型，包括面向發(fā)展中國(guó)家的模型湃彻，以縮小與富裕國(guó)家的差距。

MeiTai

OpenAI與微軟關(guān)系復(fù)雜 遭英美反壟斷當(dāng)局盯上

人工智能公司OpenAI發(fā)生執(zhí)行長(zhǎng)遭開除旋即復(fù)職的戲劇性事件后丛君，投資方微軟的角色受關(guān)注短酵。英國(guó)正在檢視是否對(duì)微軟與OpenAI的合作關(guān)系展開反壟斷調(diào)查，美方也傳出有同樣想法修噪。

OpenAI執(zhí)行長(zhǎng)阿特曼（Sam Altman）11月17日突然遭董事會(huì)開除查库，5天后又戲劇性復(fù)職路媚。過程中他一度傳出加入微軟（Microsoft）帶領(lǐng)一個(gè)新的人工智能（AI）團(tuán)隊(duì)。

事后樊销，OpenAI新成立有3名成員的初步董事會(huì)給予主要支持方微軟一席董事會(huì)觀察員整慎，可出席董事會(huì)會(huì)議和瀏覽機(jī)密資料，但沒有投票權(quán)围苫，意味也無法挑選董事人選或選出董事裤园。

微軟和OpenAI均仍未揭露會(huì)由誰擔(dān)任這名觀察員，以及OpenAI最終董事會(huì)將有哪些成員剂府。

路透社報(bào)導(dǎo)拧揽，OpenAI的母體是一個(gè)非營(yíng)利組織，這種實(shí)體鮮少被列為反壟斷調(diào)查對(duì)象腺占。2019年OpenAI成立一家營(yíng)利子公司淤袜，據(jù)消息人士說法，微軟握有其中49%股份衰伯。

但微軟的一名發(fā)言人今天提出不同說法蜻赃，他表示雙方的協(xié)議細(xì)節(jié)是機(jī)密，但微軟未“擁有”O(jiān)penAI“任何部分”善王，僅有權(quán)分享一部分利潤(rùn)钥币。

微軟曾承諾投資OpenAI逾100億美元（約新臺(tái)幣3140億元），以助其在爭(zhēng)奪人工智能收益的競(jìng)賽中贏過微軟主要對(duì)手Google（谷歌）酷它、取得領(lǐng)導(dǎo)地位荸跃。

英國(guó)的競(jìng)爭(zhēng)及市場(chǎng)管理局（Competition and Markets Authority，CMA）今天表示悦阿，“OpenAI的治理最近有一些發(fā)展柄露，其中有些牽涉到微軟”，他們正在檢視是否就微軟對(duì)OpenAI的投資啟動(dòng)調(diào)查丝板，以了解這是否會(huì)傷害到英國(guó)的市場(chǎng)競(jìng)爭(zhēng)窒汤。

彭博（Bloomberg News）報(bào)導(dǎo)，美國(guó)的聯(lián)邦貿(mào)易委員會(huì)（Federal Trade Commission吓篙，F(xiàn)TC）也正在檢查這起投資是否已違反美國(guó)反壟斷法杉硅，目前只是初步查詢，尚未啟動(dòng)正式調(diào)查深怕。

美國(guó)聯(lián)邦貿(mào)易委員會(huì)婉拒評(píng)論相關(guān)消息杏死。微軟總裁史密斯（Brad Smith）則透過聲明表示：“唯一有所改變的是，微軟現(xiàn)在將在OpenAI董事會(huì)有一名無投票權(quán)的觀察員捆交∈缫恚…這和Google買下英國(guó)的DeepMind這類收購案截然不同。”Google在2014年收購這家人工智能公司玄括。

致力于強(qiáng)化反壟斷法的非營(yíng)利組織“開放市場(chǎng)研究所”（Open Markets Institute）歐洲分部主任馮圖恩（Max von Thun）指出冯丙，鑒于人工智能產(chǎn)業(yè)發(fā)展愈來愈集中，后續(xù)可能還會(huì)有其他監(jiān)管調(diào)查遭京。

他說：“反壟斷當(dāng)局有必要迅速行動(dòng)來調(diào)查這些交易胃惜，甚至在必要情況下解除交易，以維護(hù)市場(chǎng)競(jìng)爭(zhēng)哪雕，以及避免這項(xiàng)關(guān)鍵新興科技遭到獨(dú)占船殉。”

中央社