Има над 10% шанс AI да убие всички хора, предупреди изследовател

Има повече от 10% вероятност изкуственият интелект да "убие всички хора", заяви във вторник изследовател по безопасността на Anthropic, само часове след като друг служител обяви, че напуска компанията заради опасения, че лабораториите за изкуствен интелект "играят на хазарт с живота ни".

Коментарите подчертават нарастващите опасения сред хората, които са в центъра на разработването на изкуствения интелект, че технологията може да излезе извън контрол и да представлява заплаха за човечеството, предаде CNBC (Си Ен Би Си).

Това се случва на фона на продължаващото привличане на огромни инвестиции от Anthropic и OpenAI и подготовката им за очаквани публични листвания.

Изследовател напуска Anthropic

Изследователят в Anthropic Джейкъб Коксън заяви, че е подал оставка от компанията. Според него нито Anthropic, нито OpenAI действат отговорно.

"Те се надпреварват стремглаво към самоусъвършенстващ се свръхинтелект и играят на хазарт с живота ни", написа Коксън в публикация в X.

Самоусъвършенстването означава, че системите с изкуствен интелект могат да подобряват собствените си способности без значителна човешка намеса. Т.нар. рекурсивно самоусъвършенстване все още не е възможно, но лабораториите за изкуствен интелект работят за постигането на тази цел.

"Не подценявайте силата на тази технология. Скоро това ще бъдат свръхчовешки системи, които могат да хакнат всичко, да революционизират всяка сфера за една нощ и да придобият реална власт и ресурси. Всички сме свидетели на напредъка във всяка от тези области, а той не се забавя", заяви Коксън.

Той добави, че "хората, които изграждат изкуствен интелект, искрено вярват, че той може да ни убие всички до края на десетилетието".

"AI може да убие всички хора"

Това изказване предизвика реакция от Евън Хюбингер, ръководител на научния екип по AI alignment в Anthropic. Той заяви, че твърдението на Коксън не само е "правилно", но и че Anthropic няма план за подобен сценарий.

"Джейкъб е прав - ние наистина искрено вярваме, че изкуственият интелект може да убие всички хора! Аз лично смятам, че вероятността е над 10% през следващото десетилетие. Вярвам, че Anthropic прави всичко възможно, но все още нямаме план за решаване на проблема с безопасното привеждане на свръхинтелекта в съответствие с човешките цели и не сме категорично на път да го направим", заяви Хюбингер.

Снимка: Reuters