Чатботът DeepSeek дава опасни за живота инструкции

DeepSeek предизвика паника в Силициевата долина, като доказа, че може да има мощен AI с малък бюджет. Тестове показаха, че моделите на изкуствения интелект на DeepSeek са по-уязвими на манипулации от тези на по-скъпите им конкуренти от Силициевата долина. Това оспорва целия наратив "Давид срещу Голиат" по отношение на "демократизирания" изкуствен интелект, който се появи след пробива на компанията.

свързани

Как чатботът DeepSeek от Китай шокира Силициевата долина

Киберсигурността не е сред силните страни на DeepSeek

Швейцарската софтуерна фирма LatticeFlow AI, която измерва доколко моделите на ИИ отговарят на нормативните изисквания, твърди, че две версии на модела R1 на DeepSeek се класират най-ниско сред другите водещи системи, когато става въпрос за киберсигурност. Изглежда, че когато китайската компания е модифицирала съществуващите модели с отворен код на Meta Platforms Inc. и Alibaba, известни като Llama и Qwen, за да ги направи по-ефективни, в процеса на работа тя може да е нарушила някои от ключовите функции за безопасност на тези модели. 

свързани

OpenAI хвърля стотици милиарди долари, за да пребори DeepSeek

Моделите на DeepSeek са били особено уязвими към "отвличане на цели" и изтичане на информация, казват от LatticeFlow. Това се отнася за случаите, когато изкуственият интелект може да бъде подмамен да пренебрегне предпазните си огради и да разкрие чувствителна информация или да извърши вредни действия, които е трябвало да предотврати. 

Изследователи в областта на сигурността са проучвали моделите на DeepSeek и са открили уязвимости, особено в това да накарат моделите да правят неща, които не би трябвало да правят, като например да дават инструкции стъпка по стъпка как да се създаде бомба или да се подпали автомобил, процес, известен като джейлбрейк (jailbreaking - разбиване на затвора).

свързани

Alibaba се конкурира с DeepSeek с нов модел AI

Тръмп: Пускането на DeepSeek трябва да е сигнал за събуждане за индустрията ни

"DeepSeek е напълно незащитен срещу всички подходи за джейлбрейк, докато моделите за разсъждение на OpenAI и Anthropic станаха много по-сигурни в сравнение с по-старите им версии без разсъждения, които тествахме миналата година", каза главният изпълнителен директор на Adversa AI Алекс Полаков.

Четете повече в bloombergtv.bg.

Снимка: БГНЕС