AI のセキュリティが危険にさらされている?: アルトマン氏の追放が渓谷の地震を引き起こす

月曜日（2023年11月20日）、OpenAIの従業員770人のうち700人以上が公開書簡に署名し、トップ2人が直ちに復帰しなければアルトマン氏とブロックマン氏のように辞任しマイクロソフトに移籍すると脅迫した。彼らは、アルトマン氏とブロックマン氏がそれぞれCEOと社長の地位に復帰することだけでなく、取締役会の辞任も要求している（関連記事： マイクロソフト、サム・アルトマン氏を雇用） 。

「あなたの行動は、あなたがOpenAIを率いるのにふさわしくないことを明らかにしました」と従業員は取締役会への公開書簡で述べた。 「私たちは、私たちの使命とチームに対する能力、判断力、情熱が欠けている人と一緒に働きたくありません。 Microsoft は、OpenAI の全従業員向けのポジションがあると保証してくれました。」

OpenAI暫定CEO、調査開始を希望

どうやらマイクロソフトは、将来的にアルトマン氏とブロックマン氏が所長を務めることになる新しいAI研究所で反逆者たちを利用したいと考えているようだが、もし2人が本当にそう決めれば。アルトマン氏が解任されると、取締役兼共同創設者のブロックマン氏も辞任した。一方、新しい暫定CEOのエメット・シア氏は、 OpenAIでの出来事について独立した調査を行うことを約束した。ツイッチの共同創設者は、アルトマン氏の解任は対応が悪く、あらゆる方面の信頼が損なわれたと述べた。

最近の出来事の後に OpenAI が崩壊したとしても、業界の専門家は、生成 AI ( GenAI ) の開発の進捗が大幅に遅れることはないと考えています。 「猫はバッグから出て久しく、人々はこれらのモデルが何ができるか、そしてそれらをどのように使用するかを知っています」とシュノーケルの最高技術責任者で共同創設者のブレーデン・ハンコックは言います。彼のスタートアップは、企業がドメイン固有のアプリケーション向けの大規模言語モデル (LLM) を開発するのを支援します。

「オープン AI は製品のマーケティングと提供をマスターしました」とハンコック氏は言いました。「しかし、中核となるテクノロジーは現在、少なくとも十数社の資金と人材が豊富なテクノロジー企業によって推進されています。また、多数の研究所や数百の AI スタートアップ企業もあります。」 OpenAI は先駆者として優れていることを証明してきましたが、GenAI テクノロジーは現在利用可能であり、マラソンで誰が先頭を走っているかに関係なく、何らかの形で普及するでしょう。

Hancock 氏は、GenAI を導入する際に単一のプロバイダーに依存しすぎないよう企業にアドバイスしています。 「企業がマルチクラウド戦略を通じて何年もクラウドのリスクを軽減してきたのと同じように、マルチLLMも進める必要があります」とAIの専門家はアドバイスします。

AI市場のワイルドウェスト

一方、 J. Gold Associates の首席アナリストであるジャック・ゴールド氏は、 「AI 市場における西部劇」について語ります。 OpenAI のリーダーシップの変更により、すべてが少しおかしくなりました。 「創設者 2 人は現在、マイクロソフトに勤務しています。マイクロソフトは、以前はこの市場において投資家のような役割を果たしていました」とゴールド氏は言います。それが今では変わります。Altman 氏と Brockman 氏が新しい AI ラボの指揮をとることで、Microsoft は OpenAI の開発を再現し、最終的にはそれを超えることができるようになります。 「マイクロソフトには、いつでも導入できる膨大な量のリソースがあります」とアナリストは言います。

問題は、取締役会の4人が会社を爆破した今、OpenAIはどうなるのかということだ。同社の3人の創設者の1人で主任科学者であるイリヤ・サツケヴァー氏は、その矛盾した行動で特に批判されている。彼は明らかにアルトマンとブロックマンの開発とマーケティングのスピードの速さに同意できず、また彼らのコミュニケーションスタイルに疑問を感じたため、取締役会でマネージャーの追放に投票した。

彼は現在、この決定を後悔している。X（ツイッター）でサツケヴァー氏は次のように書いている。 OpenAI に危害を加えるつもりはまったくありませんでした。私たちが一緒に築いてきたものすべてが大好きで、会社を再統合するためにできる限りのことをするつもりです。」

私は理事会の行動に参加したことを深く後悔しています。 OpenAI に危害を加えるつもりはまったくありませんでした。私たちが一緒に築き上げてきたものすべてが大好きで、会社を再統合するためにできる限りのことをするつもりです。

— イリヤ・サツケヴァー (@ilyasut) 2023 年 11 月 20 日

Gartner のアナリスト、 Avivah Litan氏は、OpenAI の内部対立は警告であると見ています。安全な AI のためには世界的な規制が必要であることは、もう誰の目にも明らかなはずです。 「AI企業が汎用人工知能（AGI）に向けた開発を進めるなら、私たちの安全は個人の気まぐれなインスピレーションに依存してはならない」とリータン氏は警告する。業界は、AI が人間による制御を必要としないように、AI が確実に AI を制御し、AI をさらに発展させることに取り組んでいます。ゲームをする余地はありません。

AIシーンへの警鐘

「OpenAIの混乱は警鐘と見るべきだ」とGartnerのアナリストは警告する。強力な規制の枠組みと明確なリーダーシップが必要です。ジョー・バイデン米国大統領が連邦政府機関にAIに関するガイドラインを提供した最近の大統領令は、有益な規制への良いスタートではあるが、努力はさらに進む必要があるとリータン氏は述べた。

多くの観察者も同様に考えています。AI の極めて高いペースでの開発は、それに伴う規制や倫理のプロセスから切り離されるべきではありません。 AI を活用した HR ソフトウェアのプロバイダーであるPhenomの戦略的ソート リーダーである Cliff Jurkiewicz 氏は、GenAI ツールがこれまでの破壊的テクノロジーとは大きく異なり、信じられないほどの高速でイノベーションを可能にしていると観察しています。企業経営者にとって、開発のハイペースとセキュリティ、ガバナンス、または倫理の問題を調和させるのは困難です。 OpenAI の経営陣もこれに悩まされました。

ユルキェヴィッチ氏は、アルトマン氏の取締役会が「Fail Fast」というスタートアップの考え方をイノベーションプロセスだけでなく運用プロセスにも移したと主張している。それは混乱を招くでしょう。 GenAI 市場で先導する企業にとって、イノベーションと収益化計画のペースは取締役会の使命と価値観と一致していなければなりません。 「私たちは、企業が利益を上げると同時に倫理的に行動できる、またそうしなければならない世界に住んでいます」とユルキェヴィッチ氏は言います。高い倫理基準は、信頼できる組織の最も重要な基準です。

ベンチャーキャピタリストは忍耐力が低いことが多い

しかし、多くのスタートアップ企業は投資家からのプレッシャーが非常に大きいため、倫理についてじっくり考える時間がない可能性が高い。アナリストのゴールド氏は、OpenAIは非営利企業として設立されているにもかかわらず、ベンチャーキャピタリストへの依存度が高まっていると強調する。彼らは、投資を迅速に回収したいと考えていました。ゴールド氏は、アルトマン氏が投資家の願望と非営利団体の倫理基準の間の難しいバランスをうまく乗り越えてきたと信じている。

結局のところ、アルトマン自身も、OpenAI の大規模言語モデル ( LLM ) の開発の一時停止を求める公開書簡に署名した 33,700 人以上の人々 (中には著名人もいた) のうちの 1 人でした。 Appleの共同創設者スティーブ・ウォズニアック氏などのハイテク界の著名人も署名者の中にいた。業界の専門家は、OpenAI の LLM の次期バージョンである GPT-5 が AGI に飛躍し、AI の未知の新しい世界への扉を開く可能性があると推測しています。

いずれにせよ、GenAI プロジェクトに取り組んでいる企業にとって、大きな変更は必要ありません。少なくとも、AI モデル展開プラットフォームOctoMLの CEO でワシントン大学教授の Luis Ceze 氏はそう考えています。 AI イノベーションは現在、非常にさまざまな分野から生まれており、決して OpenAI やビッグテック企業のようなスタートアップだけから来ているわけではありません。 「たとえば、オープンソースは企業にさまざまなモデルを提供します。スタートアップ企業はこれに軸足を置き、ニッチな分野を占有し、リスクを最小限に抑えることができるでしょう。」多くのオープンソースモデルは、価格、パフォーマンス、速度の点ですでに GPT-4 を上回っています。おそらく、OpenAIでの混乱の後、彼らはついに彼らに値する評価を得るだろう。 (hv)