先週火曜日、OpenAIは最新の言語モデルGPT-4の発表の一環として、98ページに及ぶ新しい技術レポートを公開した。地図作成会社Nomicのエンジニア、ベン・シュミット氏は、他のプラットフォームによる模倣を防ぐため、新しいGPTのトレーニング方法については一切明らかにしないと述べている。
そのため、GPT-4は秘密に包まれており、その詳細は開発が進むにつれて明らかになっていくでしょう。OpenAIは、主要な競合他社が自社の成果や努力を悪用しないよう、細心の注意を払ってきました。さらに、報告書の作成にあたっては非常に透明性を保ってきたと述べています。
OpenIAのGPT-4はクローズドソースです
この報告書はOpenAIという単独著者によるものであり、同社はこの新しいモデルの学習に何を使用したのか、またどのように学習させたのかを明らかにしていない。また、作成にかかったハードウェアとエネルギーコストも不明である。
その理由は、現在の競争環境とセキュリティ上の理由によるもので、この情報を開示すれば競合他社に模倣される可能性があると考えているためです。実際、この報告書には、プロセスや研修に関する詳細な情報はほとんど記載されていません。
報告書の2ページ目には、モデルの範囲と限界について簡潔に述べられていることが確認された。さらに、彼らは、モデルの機能に関するより詳細なデータを提供しているにもかかわらず、競合他社による模倣を容易にしないために、モデル開発の内部的な詳細は開示しないと述べている。
こうした状況から、GPT-4の発表は同社史上最も秘密裏に行われたものとなった。しかし、一部の専門家は、OpenAIのこの新たな姿勢は、完全な透明性がなければ他の組織や独立した専門家による監査を受けることができなくなるため、これらのモデルのセキュリティを損なう可能性があると考えている。
OpenAIの共同創設者の一人であるイリヤ・スツケバー氏によれば、真実はその逆だという。彼は、こうしたモデルの能力が向上するにつれて、大きな害を及ぼす可能性があると考えており、悪意のある者がそれを悪用するのを防ぐために、開発に関する情報を公開しないのは理にかなっていると主張している。
「競争環境の厳しさや、GPT-4のような大規模モデルにおけるセキュリティ上の影響を考慮し、本報告書では、アーキテクチャ、ハードウェア、トレーニング計算、データセット構築、トレーニング方法、その他同様の側面に関する詳細な情報は記載していません。」
OpenAIの共同創設者の一人、イリヤ・スツケバー
さらに、イリヤ・スツケバー氏は、多くの競合他社も同様のことをしたがっていると述べており、OpenAIによるこの新たな措置は、同社の主要製品の一つを保護しようとする意欲において非常に成熟していると考えている。このように、同社はこれまでのように知識を共有することから、自社の技術革新をより保護的なアプローチで守る方向へと転換した。
サツケバー氏はまた、OpenAIはこれまでずっと間違っていたため、全面的に方針転換せざるを得なかったと述べた。過去には、モデルに関する多くの情報を公開していた。そのため、同社の共同創設者は、人工知能が強力であるならば、ソースコードをオープンソース化するのは意味がないと考えている。
「数年以内に、ほとんどの企業がオープンソースの人工知能は誰にとっても良いアイデアではないと理解するようになる可能性が非常に高い。それは秘密裏に、閉鎖的なシステムで開発されるべきなのだ。」
OpenAIの共同創設者の一人、イリヤ・スツケバー
実際、 GPT-4の発表は、OpenAIがGoogle、Microsoft、 Metaといった他社との人工知能競争において打ち出した最新の武器の一つであり、 Metaは最近、コンピュータにインストール可能なオープンソースの競合製品であるLLaMAを発表した。
一方、Googleは先週水曜日、同社の言語モデル「PaLM」のAPIを企業や開発者向けに公開すると発表した。Microsoftも遅れをとっておらず、AIチームから多数の人員削減を行い、 OpenAI製品への取り組みを継続している。
「オープン」AIは事実上閉ざされたと言えるでしょう。GPT-4を紹介する98ページの論文では、トレーニングセットの内容について*何も*公開しないと堂々と宣言しています。pic.twitter.com/ dyI4Vf0uL3
— ベン・シュミット / @ [email protected] (@benmschmidt) 2023年3月14日
