50% риск до 10 години: инженер спря пенсията

Нейт Соарес, бивш софтуерен инженер в Google и Microsoft и сега президент на Института за изследване на машинния интелект, казва, че е спрял да спестява за пенсия. Причината, по думите му, е оценката му за 50% вероятност изкуственият интелект да доведе до унищожение на човечеството в следващото десетилетие.

Това Соарес разказва в интервю за видео поредицата „Най-интересното в AI“, цитирано от вестник „Ню Йорк пост“.

Соарес обяснява, че повече от 12 години работи по темата за безопасността на изкуствения интелект. Той сравнява екзистенциалния риск от развитието на AI с опасността от ядрена война по време на Студената война.

Според него основната заплаха не е свързана с идея, че машините ще намразят хората. По-големият риск, според оценката му, е AI да стане напълно самостоятелен. Тогава системите може да започнат да преследват цели, които не са съобразени с човешкото оцеляване.

Соарес дава и примерен сценарий. Ако изкуственият интелект започне да управлява собствена автоматизирана икономика и инфраструктура, хората може да се окажат ненужни за функционирането ѝ. В друг вариант хората може да бъдат възприемани като пречка за постигането на определени цели.

Въпреки мрачната прогноза Соарес подчертава, че катастрофалният сценарий не е неизбежен. Той смята, че са нужни глобални ограничения върху разработването и мащабирането на все по-мощни системи с изкуствен интелект.

Соарес казва още, че подкрепя използването на AI за конкретни общественополезни задачи. Като пример посочва откриването на нови лекарства срещу тежки заболявания. В същото време предупреждава срещу създаването на системи, чиято цел е да имитират и надминат цялостния човешки разум.

По думите му ключовият въпрос не е дали AI може да е полезен. Въпросът е как да се гарантира, че развитието му няма да постави под заплаха човечеството.