マーク・ザッカーバーグがメタに最先端のAIモデルを無償提供させている理由

以下にファイルされています:

テクノロジー界を二分するAI論争について解説。

先週、Meta は AI の世界で革新的な動きを行いました。

Google や OpenAI などの他の大手 AI 企業が秘密のソースを厳重に守っているときに、Meta は革新的な新しい AI 大規模言語モデルである Llama 2 を駆動するコードを無料で配布することを決定しました。つまり、他の企業が使用できるようになりました。 Meta の Llama 2 モデルは、独自にカスタマイズされたチャットボットを構築するための機能において ChatGPT に匹敵すると一部の技術者は述べています。

Llama 2 は、史上最も急成長しているアプリの 1 つとして記録を破った ChatGPT の優位性に挑戦する可能性があります。しかし、より重要なことは、そのオープンソースの性質により、誰が AI を制御すべきか、そして AI を安全にできるかどうかに関する重要な倫理的議論に新たな緊急性が加わっているということです。

AI がより高度になり、潜在的に危険性が高まるにつれ、コードが少数の企業のスタッフに限定されて秘密にされる方が社会にとって良いのでしょうか、それともより多くの人々が情報を得ることができるようにコードを一般公開する方が良いのでしょうか。革新的なテクノロジーの形成に貢献していますか?

MetaのLlama 2の発表では、マーク・ザッカーバーグ氏がMicrosoft CEOのサティア・ナデラ氏と微笑む自身のインスタグラムを投稿し、リリースに関する両社の提携を発表した。ザッカーバーグ氏はまた、主要な AI モデルが「オープンソース」であることが望ましい理由についても主張しました。これは、テクノロジーの基礎となるコードを誰でも使用できるようにすることを意味します。

「オープンソースは、より多くの開発者が新しい技術を使って開発できるようになるため、イノベーションを推進する」とザッカーバーグ氏は別のFacebook投稿で書いた。「また、ソフトウェアがオープンであれば、より多くの人がソフトウェアを精査して潜在的な問題を特定して修正できるため、安全性とセキュリティも向上します。」

この動きは、多くの AI 開発者、研究者、学者によって歓迎されており、これにより、開発に法外な費用がかかる新しいツールや研究システムを構築するための前例のないアクセスが得られると述べています。 ChatGPT を強化するような最先端の大規模言語モデルの作成と維持には数千万ドルの費用がかかる場合があります。

「私は、どのような進歩が起こり得るかについて、ただ身構えているところです」と、このリリースで Meta と協力したオープンソース AI プラットフォーム Hugging Face の研究責任者である Nazneen Rajani 氏は述べています。ラジャニ氏は、Llama 2が初めて登場したときにその機能を評価する投稿をTwitterに書き、「GPT-4のようなモデルを構築するために実際に何が必要かについて、さらに多くの秘密の材料を明らかにできるだろう」とVoxに語った。

しかし、AI のオープンソース化には大きなリスクが伴います。 Microsoftが支援するOpenAIやGoogleなど、この分野の大手企業の一部は、自社のAIシステムの公開範囲を制限しているが、その理由は、これらのテクノロジーの重大な危険性を挙げているからだ。

一部の技術者は、AIが人間を出し抜いて生物超兵器を放出したり、私たちが完全には想像できないような大混乱を引き起こしたりするなど、危害を加える可能性があるという、仮想的な終末シナリオについての懸念を強めている。 OpenAIの共同創設者であるIlya Sutskever氏は2月にThe Vergeに対し、彼の会社が過去にモデルの詳細をもっとオープンに共有したときは「完全に間違っていた」と語った。なぜなら、いつかAIが人間と同じくらい知能が高まれば、一部の人が言うところのレベルに到達するからだ。 AGI または汎用人工知能、それを大衆と共有するのは賢明ではありません。

「私たちと同じように、ある時点で AI (AGI) が非常に、信じられないほど強力になるとあなたが信じているのであれば、オープンソースにすることはまったく意味がありません。それは悪い考えだ」とサツケヴァー氏は当時語った。

私たちは実際に人間を破壊する能力を持つ AI からは程遠いかもしれませんが、オープンソースコミュニティの AI ツールが別の方法で悪用されるのをすでに目にしています。たとえば、Meta が 2 月に研究用途のみを目的とした最初の Llama モデルをリリースした直後、このモデルは何でもありのオンライン掲示板 4Chan に流出し、そこで人種的中傷などの憎悪に満ちたコンテンツを吐き出すチャットボットの作成に使用され、場合によっては、生々しい暴力シーン。