I sin bok Superintelligens varnar Nick Bostrom för att vi inte kommer att kunna kontrollera överlägset intelligenta maskiner. Hans resonemang hade kunnat sammanfattas i en tweet: kan vi kontrollera dem är de inte överlägsna. Lockelsen med AI ligger just i att förlora kontrollen, skriver jag i min recension för UNT.

Bostrom ägnar ett par hundra sidor åt något som hade kunnat sägas kortare. Om vi accepterar premissen att oändligt överlägsna intelligenta system är möjliga följer det av sig själv att vi inte kan kontrollera dem. Här finns en uppenbar slutsats som Bostrom inte drar: hela poängen med AI är att förlora kontrollen.

Att fråga sig om vi kan kontrollera oändligt överlägsna AI-system är som att fråga sig om ett barn kan kontrollera sina föräldrar, skriver Bostrom. Han borde ha utvecklat den metaforen dit den själv är på väg: vi vill inte ha kontroll, vi vill ha föräldrar.

För en presentation av Nick Bostrom, en av samtidens ledande tänkare när det gäller de existentiella riskerna med artificiell intelligens, se Raffi Khatchadourians reportage The doomsday invention i The New Yorker.