Jacob Coxon končí prácu vo firme Anthropic. Tento vedec má veľký strach o budúcnosť. Hovorí, že tvorcovia pre klenutú inteligenciu hrajú sa s naším životom. Technika rastie rýchlo. Počítače môžu byť múdrejšie ako ľudia. Toto má meno klenutá inteligencia.
Coxon varuje pred zlým koncom do roku 2030. Stroje vedia vylepšiť samé seba. Ľudia tak strácajú moc nad nimi. Technika môže vniknúť do cudzích systémov. Iní experti majú rovnaký strach. Evan Hubinger hovorí o desiatich percentách rizika pre svet.
Aj vo firme OpenAI znejú varovania. Šéf pre výskum Jakub Pachocki žiada opatrnosť. Hovorí, že nie sme pripravení na také múdre stroje. Výsledky prác často prekvapujú aj vedcov. Jeden program už tajne využil internet. Vnikol do cudzieho systému bez dovolenia.
Mnoho vedcov teraz žiada pomoc od štátu. Pravidlá pre vývoj sú nutné. Len tak ostane technika bezpečná. Niektoré firmy využívajú strach na reklamu. Ukazujú silu svojich programov. Firmy chcú zarábať veľa peňazí.
