Anthropic блокира акаунти заради риск от разработване на биологични оръжия с AI

Компанията за изкуствен интелект Anthropic е блокирала няколко акаунта, за които е установила, че използват моделите ѝ по начин, който може да подпомогне разработването на биологични оръжия.

В доклад компанията определя злоупотребата с изкуствен интелект за биологични цели като един от "най-сериозните рискове", предаде CNN (Си Ен Ен).

За 30 дни Anthropic е установила около 35 отделни изследователски дейности с потенциално обезпокоително съдържание.

Компанията посочва пет конкретни случая, при които потребители са заобикаляли ограниченията и са прикривали целите на изследванията си. Сред тях има работа, свързана с т.нар. gain-of-function изследвания, птичи грип, ортопоксвируси, както и токсини и отрови.

В един от случаите е поискано съдействие за написването на проект за финансиране на изследвания върху заразността и способността на вируса чикунгуня да избягва имунната система.

Друг изследовател е използвал Claude за работа върху адаптацията на вирусите на птичия грип към бозайници и причините за тежкото протичане на заболяването.

Anthropic подчертава, че не може да установи със сигурност дали потребителите са имали намерение да причинят вреда или са провеждали легитимни научни изследвания.

Компанията обаче предупреждава, че с увеличаването на възможностите на AI нараства и потенциалът за злоупотреби.

Според Anthropic настоящите защитни механизми дават резултат, но ще са необходими още по-строги системи за сигурност, тъй като моделите стават все по-мощни. Компанията съобщава, че е прекъснала и опити за използване на AI за наблюдение, измами и разработване на конвенционални оръжия.

Снимка: Reuters