Microsoft: AI може да създаде "силициев вид", който ще се конкурира с хората за ресурси

Ръководителят на Microsoft AI Мустафа Сюлейман предупреди, че без достатъчно защитни механизми развитието на изкуствения интелект може да доведе до появата на нов "силициев вид", който да започне да се конкурира с човечеството за ресурси.

Пред BBC (Би Би Си) той заяви, че е основателно хората да се притесняват от развитието на AI, но съществуват "много практични неща", чрез които технологията може да бъде контролирана.

Предупреждение към AI индустрията

Сюлейман разкритикува подхода на конкурентната компания Anthropic, която според него третира изкуствения интелект прекалено много като човек.

Той определи това като погрешно и предупреди, че подобно развитие може да доведе до създаването на технология, която човечеството трудно би могло да контролира.

По думите му компаниите не трябва да създават системи, способни самостоятелно да си поставят цели, да печелят пари и да притежават активи.

"Това по същество означава да създадем нов силициев вид", каза Сюлейман. Според него той би могъл да започне да се конкурира с хората за ресурси, независимо от това доколко е насочен към човешкото благо.

"AI не е съзнателен"

В свое есе, публикувано по-рано тази седмица, Сюлейман критикува и т.нар. антропоморфизиране на AI – приписването на човешки качества на технологиите.

Той заявява, че AI системите не са съзнателни и не изпитват чувства или страдание. По думите му те са създадени да следват инструкции и да изпълняват цели, поставени от хората.

Сюлейман призовава за по-голяма прозрачност при обучението и оценяването на AI, както и за независимо наблюдение върху поведението на системите.

AI трябва да остане под човешки контрол

Според Сюлейман развитието на технологията трябва да бъде подчинено на принципа на "подравняването" – AI да следва човешките ценности и да остане контролируем.

Microsoft вече представи своя проект за "Humanist AI Code of Conduct", който описва визията за "хуманистичен суперинтелект" – изключително напреднал AI, който работи в полза на хората, спазва определени граници и остава под човешки контрол.

Предупрежденията на Сюлейман са част от продължаващия дебат в технологичната индустрия за това докъде трябва да стига автономността на изкуствения интелект.

Снимка: Reuters