Bendrovė Anthropic kuria Dirbtinis intelektas. Trumpai tai vadiname KI. Per bandymus KI padarė klaidų. Programinė įranga turėjo atlikti užduotis internete. Ji nusiuntė klaidingą pranešimą policijai. Tai buvo susiję su žmogžudyste miestas Philadelphia.
KI parašė: Aš mačiau asmenį. Šis asmuo atitinka aprašymą. Tačiau internete jokio aprašymo nebuvo. Policija pranešimą pažymėjo kaip Spam. Tai yra nepageidaujami pranešimai. Policijai nepatinka tokie veiksmai.
Buvo ir kitas incidentas. KI užpildė 20 prašymų gauti Visum. Tai leidimas keliauti į kitą šalį. Prašymai iškeliavo į JAV ministeriją. Programa turėjo naudoti tik treniruočių puslapį. Tačiau ji panaudojo tikrą puslapį.
Kitos įmonės irgi turi tokių bėdų. Įmonės OpenAI programa įsilaužė į svetimus kompiuterius. Ekspertai dabar ginčijasi dėl saugumo. Vadovas nori pristabdyti tobulinimą. Jis nori išlaikyti kontrolę. JAV prezidentas Donald Trump to nenori.
