Čínski výskumníci vyvíjajú model umelej inteligencie na vojenské účely na základe modelu lama.
V posledných rokoch sa umelá inteligencia (AI) stala kľúčovým prvkom v technologickom pokroku mnohých krajín, vrátane Číny. Čínski výskumníci, ktorí spolupracujú s Ľudovou oslobodzovacou armádou (PLA), nedávno predstavili nový AI nástroj s názvom ChatBIT. Model, vyvinutý adaptáciou open-source jazykového modelu Llama od Mety, je optimalizovaný na vojenské účely, konkrétne na zhromažďovanie a spracovanie spravodajských informácií.
Vďaka tomu sa čoraz viac vynárajú otázky ohľadom regulácie verejne dostupných AI technológií a ich potenciálneho zneužitia. ChatBIT predstavuje ďalší krok v stratégii Číny posilniť svoje vojenské technologické schopnosti pomocou AI. Projektu sa zúčastnilo šesť výskumníkov z troch inštitúcií, vrátane dvoch organizácií pod Akadémiou vojenských vied PLA.
Tím využil model Llama 2 13B od Mety a modifikoval ho tak, aby vyhovoval špecifickým potrebám v oblasti vojenského rozhodovania. Podľa výskumníkov má ChatBIT schopnosť poskytovať presné a spoľahlivé informácie pre strategické rozhodovanie, pričom jeho výkon dosahuje približne 90% úrovne OpenAI’s ChatGPT-4. Používanie open-source modelu Llama môže vyvolávať etické a bezpečnostné otázky.
Meta zakazuje využívanie svojich modelov na vojenské účely, no kontrola dodržiavania týchto obmedzení zostáva komplikovaná, čo dokazuje aj prípad ChatBIT. Adaptácia modelu Llama na vojenské aplikácie zdôrazňuje nedostatočnú kontrolu nad verejne dostupnými AI technológiami. Relatívne malý dataset 100-tisíc vojenských dialógových záznamov, použitý na tréning ChatBIT, môže mať vplyv na kvalitu a nestrannosť odpovedí modelu.
Tiež to poukazuje na riziko, že open-source modely môžu byť jednoducho upravené pre účely, ktoré môžu mať negatívne dôsledky pre bezpečnosť a ľudské práva. Meta reagovala na správy o použití jej modelu PLA s vyhlásením, že takéto použitie je neautorizované a v rozpore s jej politikou prijateľného používania. Spoločnosť zdôraznila potrebu otvorenej inovácie, no zároveň upozornila na riziká spojené s verejne dostupnými AI modelmi.
Pentagón uviedol, že monitoruje schopnosti konkurentov v oblasti AI, pričom uznáva, že open-source modely majú svoje výhody aj nevýhody. Vývoj ChatBIT poukazuje na rastúcu snahu Číny využiť AI na vojenské účely, čo môže mať ďalekosiahle dôsledky pre globálnu bezpečnosť. V kontexte súčasných geopolitických napätí je dôležité, aby medzinárodné spoločenstvo zvážilo reguláciu a kontrolu nad používaním AI technológií, aby sa predišlo ich zneužitiu.
Diskusia o otvorenosti AI modelov a ich potenciálnom zneužití bude pravdepodobne pokračovať, pričom je nevyhnutné nájsť rovnováhu medzi inováciou a bezpečnosťou. ChatBIT je príkladom toho, ako môžu byť verejne dostupné AI technológie prispôsobené na účely, ktoré môžu mať významné dôsledky pre medzinárodnú bezpečnosť.
