Sidste tirsdag udgav OpenAI en ny 98-siders teknisk rapport som en del af præsentationen af deres seneste GPT-4 sprogmodel . Ingeniør Ben Schmidt fra et kortlægningsfirma kaldet Nomic har udtalt, at de ikke vil afsløre noget om, hvordan de har trænet den nye GPT, for at forhindre andre platforme i at kopiere den.
Derfor er GPT-4 indhyllet i hemmelighed , hvilket vi vil erfare, efterhånden som det udvikles. OpenAI har været meget omhyggelige med at forhindre sine hovedkonkurrenter i at udnytte deres arbejde og indsats . Desuden har de udtalt, at de har været meget gennemsigtige i udarbejdelsen af rapporten.
OpenIAs GPT-4 er lukket kildekode
Rapporten har én forfatter, OpenAI, hvilket betyder, at virksomheden ikke har afsløret, hvad den brugte til at træne denne nye model, eller hvordan den gjorde det . Det er heller ikke uklart, hvad hardware- og energiomkostningerne var for dens oprettelse.
Årsagen til dette er det nuværende konkurrencemiljø og af sikkerhedsmæssige årsager, da de mener, at afsløring af disse oplysninger kan blive kopieret af deres konkurrenter. Sandheden er, at denne rapport indeholder meget få detaljer om processen og den involverede træning.
Det blev bemærket, at rapportens anden side kort omhandler modellens omfang og begrænsninger. Desuden angav de, at de, på trods af at de gav flere data om dens muligheder, ikke ville afsløre interne detaljer om modellens udvikling for at undgå at gøre det lettere for konkurrenter at kopiere den.
Alt dette har gjort lanceringen af GPT-4 til den mest hemmelighedsfulde, virksomheden nogensinde har set. Nogle eksperter mener dog, at denne nye holdning fra OpenAI kan kompromittere sikkerheden af disse modeller, fordi de uden fuldstændig gennemsigtighed mister muligheden for at blive revideret af andre organisationer eller uafhængige eksperter.
Ifølge Ilya Sutskever, en af medstifterne af OpenAI, er det modsatte tilfældet. Han mener, at den slags modeller kan forårsage stor skade, efterhånden som deres muligheder forbedres , så det giver perfekt mening ikke at afsløre oplysninger om udviklingen for at forhindre ondsindede aktører i at udnytte den.
"I betragtning af det konkurrenceprægede landskab og de sikkerhedsmæssige konsekvenser for storskalamodeller som GPT-4 indeholder denne rapport ikke yderligere detaljer om arkitektur, hardware, træningsberegning, datasætkonstruktion, træningsmetoder og andre lignende aspekter."
Ilya Sutskever, en af medstifterne af OpenAI
Derudover har Ilya Sutskever udtalt, at mange konkurrerende virksomheder ønsker at gøre det samme, så han mener, at dette nye tiltag fra OpenAI er meget modent i deres ønske om at beskytte et af deres hovedprodukter . Virksomheden er således gået fra at dele viden , som i tidligere år, til at anlægge en mere beskyttende tilgang til sine fremskridt.
Sutskever nævnte også, at OpenAI hele tiden havde taget fejl, hvilket var grunden til, at de var nødt til at foretage en komplet ændring. Tidligere delte de en masse information om deres modeller. Derfor mener virksomhedens medstifter, at hvis kunstig intelligens er kraftfuld , så giver det ingen mening at open source kildekoden.
"Det er meget sandsynligt, at de fleste virksomheder inden for få år vil forstå, at open source kunstig intelligens ikke er en god idé for nogen; den bør udvikles i hemmelighed og i lukkede systemer."
Ilya Sutskever, en af medstifterne af OpenAI
Sandheden er, at lanceringen af GPT-4 er et af OpenAIs seneste våben i kapløbet om kunstig intelligens med andre virksomheder som Google, Microsoft eller Meta, der for nylig lancerede LLaMA, en open source-konkurrent, der kan installeres på computere.
På den anden side annoncerede Google også sidste onsdag, at deres PaLM- sprogmodel ville udgive en API til brug for virksomheder og udviklere. Microsoft er ikke blevet efterladt, idet de har foretaget et stort antal afskedigelser fra deres AI-team og fortsat sit engagement i OpenAI-produkter.
Jeg tror, vi kan kalde det lukket for 'åben' AI: Den 98 sider lange artikel, der introducerer GPT-4, erklærer stolt, at de *intet* afslører om indholdet af deres træningssæt. pic.twitter.com/dyI4Vf0uL3
— Ben Schmidt / @benmschmidt@vis.social (@benmschmidt) 14. marts 2023
