Последното предупреждение на Стивън Хокинг: AI може да унищожи човечеството

Британският физик Стивън Хокинг е предупреждавал, че развитието на изкуствения интелект (AI) може да се превърне в една от най-големите заплахи за съществуването на човечеството.

Според учения създаването на машини, способни самостоятелно да се усъвършенстват, може да доведе до бъдеще, в което хората вече няма да могат да контролират технологиите.

Предупрежденията на Хокинг, който почина през 2018 г., припомня телевизия WION ("Уион").

Ученият смятал, че ако AI достигне определено равнище на самостоятелност, той ще може да променя и усъвършенства собствените си системи с все по-голяма скорост. За разлика от машините, хората са ограничени от бавните процеси на биологичната еволюция и няма да могат да се конкурират с подобно развитие.

Опасността не е непременно в злонамерените роботи

Според Хокинг най-сериозната заплаха не идва непременно от машини, които умишлено искат да унищожат човечеството. Опасността е в появата на свръхинтелигентна система, чиито цели могат да се окажат несъвместими с интересите на хората.

Още през декември 2014 г. физикът заявява пред BBC ("Би Би Си"), че разработването на пълноценен изкуствен интелект може да означава край на човешката раса.

Тогава Хокинг обяснява, че подобна технология би могла да се развива самостоятелно и да променя собствената си структура с ускоряващи се темпове. Хората, ограничени от биологичната еволюция, не биха могли да я догонят и в крайна сметка биха били изместени.

Изказването е направено по повод представянето на усъвършенствана комуникационна система, разработена за самия учен с участието на Intel и SwiftKey.

Хокинг признава ползите от ранните форми на изкуствен интелект, но изразява опасения от създаването на системи, които превъзхождат човешките способности.

Автономните оръжия може да се превърнат в средство за потисничество

През октомври 2016 г., при откриването на Центъра за бъдещето на интелекта към Университета в Кеймбридж, Хокинг отново предупреждава за рисковете от новите технологии.

Той посочва, че изкуственият интелект може да помогне за преодоляването на тежки заболявания, бедността и някои от последствията от индустриализацията.

Същевременно обаче развитието му може да доведе до създаването на мощни автономни оръжия и нови инструменти за потискане на хората.

"Успехът в създаването на AI може да бъде най-голямото събитие в историята на нашата цивилизация", заявява Хокинг.

Той обаче предупреждава, че това може да се окаже и последното подобно събитие, ако човечеството не се научи да избягва свързаните с технологията рискове.

Послание към бъдещите поколения

В книгата си "Кратки отговори на големите въпроси", публикувана посмъртно през 2018 г., британският учен отново разглежда опасностите, свързани с технологичния напредък.

Хокинг подчертава необходимостта науката да служи на обществото и предупреждава за бъдеще, в което технологиите могат да бъдат използвани срещу хората, без те да разполагат със средства да ги спрат.

В публикуван от WIRED ("Уайърд") откъс от книгата физикът обръща внимание и на значението на научното образование, достъпа до знания и необходимостта обществото да разбира технологиите, които променят живота му.

Макар предупрежденията му да са направени години преди масовото навлизане на съвременните генеративни системи с изкуствен интелект, те продължават да присъстват в дебата за безопасността на технологията.

Снимка: Reuters