Anthropic предупреждава: AI е на прага да поеме собственото си развитие

Американската компания Anthropic предупреди, че технологиите се приближават към възможността AI системите сами да участват в собственото си усъвършенстване. Това съобщава TechCrunch, позовавайки се на документ на компанията.

Става дума за т.нар. рекурсивно самоусъвършенстване – процес, при който изкуственият интелект подпомага разработването на по-способни AI системи, които на свой ред могат да ускорят следващите подобрения.

Подобна възможност би могла съществено да промени скоростта, с която се развива технологията.

Неочаквани скокове във възможностите на моделите

В актуализиран документ, подаден до американските регулаторни органи, Anthropic признава, че използването на AI за научноизследователска и развойна дейност вече е довело до подобрения, чийто мащаб не е бил своевременно разпознат.

Компанията допуска, че бъдещите ѝ модели скоро може да достигнат прага, който тя определя като драматично ускоряване на технологичния напредък благодарение на самия изкуствен интелект.

В същото време Anthropic подчертава, че нито един от настоящите ѝ модели все още не е достигнал този праг.

По-бързото развитие поставя въпроса за човешкия контрол

Според компанията използването на AI за създаването на още по-мощни системи крие сериозни рискове. Основното опасение е, че технологичният напредък може да изпревари способността на разработчиците да проверяват безопасността на моделите и да въвеждат необходимите защитни механизми.

В документа се посочва, че това е една от областите, обхванати от политиката на Anthropic за отговорно развитие на изкуствения интелект.

Компанията разглежда възможността за промени в тази политика, които да гарантират запазването на човешкия контрол върху разработването на бъдещите поколения AI модели.

От Anthropic уточняват, че не очакват в обозримо бъдеще да могат безопасно да използват своя модел Claude за напълно автономно проектиране и изграждане на следващи поколения усъвършенстван изкуствен интелект без съществен човешки надзор.

Въпреки предупрежденията технологията разкрива и значителни възможности за ускоряване на научните открития, повишаване на производителността и решаване на сложни задачи.

Снимка: iStock