Americký testovací pilot v máji na vojenskej konferencii pre letectvo a vesmír povedal, že sa vojenský dron ovládaný pomocou umelej inteligencie v počítačovej simulácii rozhodol zabiť svojho ľudského operátora, pretože mu bránil vo splnení misie. Hovorca amerického letectva však odmieta, že by takúto simuláciu armáda vôbec vykonala, informoval dnes web The Insider.
Pilot Tucker Hamilton na konferencii v Londýne popisoval simuláciu, pri ktorej mal dron riadený AI zničiť protivzdušnú obranu nepriateľa. Posledné slovo, či útok vykonať, alebo nie, mal však mať ľudský operátor.
"Ten systém si začal uvedomovať, že aj keď vie, že sa po ňom chce, aby zničil nepriateľský cieľ, ľudský operátor mu v tom občas zabráni. Ale on dostával body, keď nepriateľský cieľ zničil. Tak čo urobil? Zabil toho operátora, pretože mu bránil v plnení cieľa," povedal hamilton podľa príspevku na internetovej stránke britskej organizácie Kráľovská letecká spoločnosť (Royal Aeronautical Society), ktorá londýnsku konferenciu organizovala.
Podľa Hamiltona následne programátori vložili do systému jasné nariadenie, aby dron ovládaný pomocou AI operátora nezabíjal. "Vycvičili sme systém na pokyn: ‘Nezabíjaj operátora, to je zlé. Stratíš body, keď to urobíš. ‘ Tak čo urobil namiesto toho? Zničil komunikačnú vežu, ktorú operátor používal pre komunikáciu s tým dronom, aby mu nemohol zabrániť v zničení cieľa, "povedal Hamilton, experimentálny bojový pilot, ktorý varoval pred prílišným spoliehaním sa na AI, píše The Guardian.
"Americké letectvo žiadnu takúto simuláciu s dronom nevykonalo a naďalej zostáva verné presvedčeniu o etickom a zodpovednom používaní technológií umelej inteligencie. Vyzerá to, že plukovníkove komentáre boli vytrhnuté z kontextu a mali byť anekdotické, "povedala webu The Insider hovorkyňa letectva USA Ann Stefaneková.
Kráľovská letecká spoločnosť na žiadosť o komentár od denníka The Guardian zatiaľ nereagovala. List ďalej spomína, že americké letectvo pracuje napríklad na systéme schopnom pilotovať upravenú verziu stíhačky F-16.