Mardi dernier, OpenAI a publié un nouveau rapport technique de 98 pages dans le cadre de la présentation de son dernier modèle de langage GPT-4 . L'ingénieur Ben Schmidt, de la société de cartographie Nomic, a déclaré qu'ils ne dévoileraient rien sur la méthode d'entraînement du nouveau GPT afin d'empêcher toute copie par d'autres plateformes.
Par conséquent, GPT-4 reste entouré de mystère , mystère que nous découvrirons au fur et à mesure de son développement. OpenAI a veillé scrupuleusement à empêcher ses principaux concurrents de tirer profit de ses travaux et de ses efforts . De plus, l'entreprise a affirmé avoir fait preuve d'une grande transparence dans la préparation du rapport.
GPT-4 d'OpenIA est un logiciel propriétaire.

Le rapport est signé par un seul auteur, OpenAI, ce qui signifie que l'entreprise n'a révélé ni les outils utilisés pour entraîner ce nouveau modèle, ni la méthode employée . On ignore également les coûts matériels et énergétiques liés à sa création.
Cette décision s'explique par le contexte concurrentiel actuel et par des raisons de sécurité, car l'entreprise craint que la divulgation de ces informations ne permette à ses concurrents de les reproduire. En réalité, ce rapport contient très peu de détails sur le processus et la formation mis en place.
Il a été constaté que la deuxième page du rapport aborde brièvement la portée et les limites du modèle. De plus, les auteurs ont indiqué que, malgré la fourniture de données supplémentaires sur ses fonctionnalités, ils ne divulgueraient pas les détails internes de son développement afin d'éviter de faciliter sa copie par la concurrence.
Tout cela a fait du lancement de GPT-4 le plus secret jamais réalisé par l'entreprise. Cependant, certains experts estiment que cette nouvelle position d' OpenAI pourrait compromettre la sécurité de ces modèles car, sans transparence totale , ils ne peuvent plus être audités par d'autres organisations ou des experts indépendants.
D'après Ilya Sutskever, cofondateur d'OpenAI, c'est tout le contraire. Il estime que ces modèles peuvent causer beaucoup de tort à mesure que leurs capacités s'améliorent ; il est donc tout à fait logique de ne pas divulguer d'informations sur leur développement afin d'empêcher des personnes mal intentionnées d'en tirer profit.
« Compte tenu du contexte concurrentiel et des implications en matière de sécurité pour les modèles à grande échelle tels que GPT-4, ce rapport ne contient pas de détails supplémentaires sur l'architecture, le matériel, le calcul d'entraînement, la construction de l'ensemble de données, la méthode d'entraînement et d'autres aspects similaires. »
Ilya Sutskever, l'un des cofondateurs d'OpenAI
De plus, Ilya Sutskever a déclaré que de nombreuses entreprises concurrentes souhaitent faire de même ; il estime donc que cette nouvelle mesure prise par OpenAI témoigne d’une grande maturité dans sa volonté de protéger l’un de ses produits phares . L’entreprise est ainsi passée d’ un partage des connaissances , comme c’était le cas les années précédentes, à une approche plus protectrice de ses innovations.
Sutskever a également indiqué qu'OpenAI s'était trompé depuis le début, ce qui explique leur changement radical. Auparavant, ils partageaient de nombreuses informations sur leurs modèles. C'est pourquoi le cofondateur de l'entreprise estime que si l'intelligence artificielle est si puissante , il est absurde de rendre le code source public.
« Il est fort probable que d'ici quelques années, la plupart des entreprises comprendront que l'intelligence artificielle open source n'est une bonne idée pour personne ; elle devrait être développée secrètement et dans des systèmes fermés. »
Ilya Sutskever, l'un des cofondateurs d'OpenAI
En réalité, le lancement de GPT-4 est l'une des dernières armes d'OpenAI dans la course à l'intelligence artificielle face à d'autres entreprises comme Google, Microsoft ou Meta, qui a récemment lancé LLaMA, un concurrent open source installable sur les ordinateurs.
Par ailleurs, Google a également annoncé mercredi dernier que son modèle de langage PaLM mettrait à disposition une API destinée aux entreprises et aux développeurs. Microsoft n'est pas en reste, ayant procédé à de nombreux licenciements au sein de son équipe d'IA et maintenant son engagement envers les produits OpenAI.
Je crois qu'on peut parler de fermeture de l'IA « ouverte » : le document de 98 pages présentant GPT-4 déclare fièrement qu'ils ne divulguent *rien* sur le contenu de leur ensemble d'entraînement. pic.twitter.com/dyI4Vf0uL3
— Ben Schmidt / @ [email protected] (@benmschmidt) 14 mars 2023



