Toto oznámenie prichádza v čase, keď vlády diskutujú o tom, ako regulovať technológie umelej inteligencie.
OpenAI, stojaca za ChatGPT, vytvára špecializovaný tím na riadenie rizík superinteligentnej umelej inteligencie, čo je hypotetický model umelej inteligencie, ktorý je inteligentnejší ako aj ten najnadanejší a najinteligentnejší človek a vyniká vo viacerých oblastiach odbornosti namiesto jednej oblasti ako niektoré modely predchádzajúcej generácie. Firma verí, že takýto model by sa mohol objaviť do konca desaťročia. „Superinteligencia bude najvplyvnejšou technológiou, akú kedy ľudstvo vynašlo, a mohla by nám pomôcť vyriešiť mnohé z najdôležitejších problémov sveta,“ uviedla nezisková organizácia. „Obrovská sila superinteligencie by však mohla byť aj veľmi nebezpečná a mohla by viesť k zneisteniu ľudstva alebo dokonca k jeho vyhynutiu.“ Nový tím budú spoluvedúcimi hlavného vedeckého pracovníka Ilya Sutskever a Jan Leike, vedúci výskumného laboratória pre zosúladenie.
Okrem toho firma uviedla, že na túto iniciatívu vyčlení 20% svojho v súčasnosti zabezpečeného výpočtového výkonu s cieľom vyvinúť automatizovaného výskumníka zarovnávania. Takýto systém by teoreticky pomohol firme zabezpečiť, aby bola superinteligencia bezpečná na používanie a zosúladená s ľudskými hodnotami. „Hoci ide o neuveriteľne ambiciózny cieľ a nemáme zaručené, že sa nám to podarí, sme optimistickí, že sústredené a spoločné úsilie môže tento problém vyriešiť,“ uviedla OpenAI. „Existuje mnoho nápadov, ktoré sa v predbežných experimentoch ukázali ako sľubné, máme čoraz užitočnejšie metriky pokroku a na empirické štúdium mnohých z týchto problémov môžeme použiť dnešné modely.“ Laboratórium dodalo, že sa v budúcnosti podelí o plán. Stredajšie oznámenie prichádza v čase, keď vlády na celom svete zvažujú, ako regulovať vznikajúci priemysel umelej inteligencie.
V USA sa Sam Altman, generálny riaditeľ firmy, v posledných mesiacoch stretol s najmenej 100 federálnymi zákonodarcami. Altman verejne vyhlásil, že regulácia AI je „nevyhnutná“ a že OpenAI „túži“ spolupracovať s tvorcami politík. Mali by sme však byť skeptickí voči takýmto vyhláseniam a vôbec snahám, ako je tím OpenAI Superalignment. Tým, že organizácie sa sústreďujú pozornosť verejnosti na hypotetické riziká, ktoré sa možno nikdy nenaplnia, presúvajú bremeno regulácie na horizont namiesto tu a teraz. Existujú oveľa bezprostrednejšie problémy týkajúce sa vzájomného pôsobenia umelej inteligencie a práce, dezinformácií a autorských práv, ktoré musia tvorcovia politík riešiť dnes, nie zajtra.
