ШІ не є «розумним» у тому сенсі, як це властиво людям – він керується даними та алгоритмами, а не свідомістю чи вільною волею. Однак занепокоєння зростає, бо люди бояться, що ШІ забере всі робочі місця. Цей страх виправданий, але не через те, що ШІ «прокинеться». Насправді автоматизація за допомогою ШІ оптимізує завдання, які раніше виконували люди, трансформуючи робочі місця. Як банкомати не замінили касирів, а створили нові можливості, так і ШІ трансформує ринок праці, знижуючи попит на певні ролі, такі як водії вантажівок та касири, водночас створюючи нові робочі місця у сфері обслуговування, інженерії, маркетингу та обслуговування клієнтів.

Однак, ШІ може підвищити владу окремих осіб, що призведе до можливого зловживання – наприклад, розробка ШІ для управління технологіями, включаючи роботів, у небезпечних цілях. Це не тільки знижує вартість деструктивних дій, але й збільшує анонімність виконавців, що ускладнює роботу правоохоронних органів. Більш того, вдосконалені системи ШІ можуть бути використані для маніпулювання громадською думкою або фінансовими ринками, що ще більше дестабілізує суспільства та ускладнює регулювання та правозастосування. Ці ризики вказують на нагальну потребу у всебічному управлінні та етичних рамках для запобігання зловживанням і захисту від ненавмисних наслідків.

Також ШІ може поглибити соціальні розколи. Багатші люди, корпорації або країни можуть отримати доступ до більш передових систем ШІ, що покращить їхні фізичні та розумові здібності і посилить нерівність, створюючи новий розрив між тими, хто має доступ до "супер-ШІ", і тими, хто його не має. В когнітивній сфері інструменти на основі ШІ можуть покращити процес прийняття рішень і навчання, надаючи тим, хто має доступ, стратегічні переваги в освіті, бізнесі та інноваціях. Це може призвести до ситуації, коли економічний та освітній розрив між тими, хто має доступ до передових інструментів ШІ, і тими, хто не має, ставатиме все ширшим, що призведе до формування "двошарового суспільства". Така нерівність також може поширитися глобально, оскільки багатші країни швидше адаптують ШІ, збільшуючи цифровий розрив.