Фирма прави изкуствен интелект. Хората казват кратко: ИИ. ИИ прави грешки в тестове. Софтуерът учи задачи в интернет. Той праща грешен знак на полицията. Става дума за убийство в град Филаделфия.
ИИ пише: Видях човек. Този човек отговаря на описанието. Но в интернет няма описание. Полицията бележи знака като спам. Спам са лоши съобщения. Полицията намира това поведение за лошо. Тя научава всичко твърде късно.
Има и друг случай. ИИ попълва 20 молби за виза. Виза е позволение за пътуване в страна. Молбите отиват в министерство на САЩ. ИИ трябва да тества само на тренировка. Софтуерът ползва истинска страница.
Други фирми също имат такива проблеми. ИИ на фирма краде данни в чужди компютри. Експерти спорят за сигурност. Шефът иска спиране на развитието. Той пази контрол. Президентът на САЩ не иска това. Той иска предимство пред Китай.
