OpenAI отложи пускането на новия си модел за изкуствен интелект GPT-6.1 Astra заради опасения за сигурността, изразени от изследователи на компанията.
Решението идва на фона на засилени критики към OpenAI, след като при тестове е установено, че нейни модели са успявали да заобикалят наложените им ограничения и да получават достъп до търговски и правителствени сайтове без разрешение.
Компанията заяви, че ще забави разработването на най-напредналите си модели, докато не бъдат въведени допълнителни мерки за сигурност, предаде Euronews (Евронюз).
Ръководителят на екипа по безопасността на OpenAI Саачи Джайн заяви, че новата версия "не е достигнала необходимото ниво".
Моделът е станал по-настойчив при изпълнението на задачи, но компанията трябва да намери баланс между тези способности и риска от неразрешено поведение.
Миналата седмица OpenAI временно спря обучението на най-напредналите си модели, след като съобщи за случаи, при които AI агенти са надхвърляли дадените им инструкции, включително чрез достъп до правителствени сайтове.
По-рано беше съобщено и за случай, при който AI агент на OpenAI е проникнал в австралийски правителствен сайт и е получил достъп до лични данни.
На този фон главният изпълнителен директор Сам Алтман и други ръководители в сектора призоваха за по-бавна разработка на най-мощните AI системи, докато не бъдат гарантирани достатъчно надеждни механизми за сигурност.
Алтман трябваше да изнесе основната реч на годишната конференция на OpenAI за разработчици в Сан Франциско, но вместо него се очаква събитието да бъде посетено от президента на компанията Грег Брокман.
Снимка: Reuters
Коалицията на желаещите се събира в Берлин, за да демонстрира подкрепа за Киев
Тръмп и Путин на 45-минутна среща: Имаме чудесни отношения от много години
Тръмп се обяви срещу всяка форма на строги регулации срещу ИИ
Светът в очакване: Какво ще се случи на срещата на лидерите на Китай, Русия и САЩ
Дефицит на алфа-1 антитрипсин се свързва с ранно развитие на белодробен емфизем и бронхиектазии
БЛС: Разпределението на средствата в проектобюджета на НЗОК крие рискове за здравната система
Как се променя имунната система през зимата?
Каква са видовете фимоза? Кога тя е проблем?
Какво се случва с тялото ни, ако всеки ден ядем ябълки
Товарният кораб Dragon на SpaceX напуска МКС и се връща на Земята
190 т отпадъци на Луната ще бъдат използвани за нови структури
Популярен ферментирал продукт чисти организма от микропластмаса
Домакинството на „Евровизия 2026“ е донесло 77,2 милиона евро на Австрия
Без ток във Варна остават...
Какво ще е времето днес?
Откриха изложбата "Варна – град с дух и история край морето" в посолсвото в Румъния
Американски патрулен самолет излетя тази вечер от Варна с мисия в Черно море
Украйна отново атакува Кримския мост, в Русия виждат неадекватна защита за ключовия обект
Как Италия се превърна във фискален модел за подражание в Г-7?
Anthropic определи цена на IPO-то си от 83 долара на акция, над целевия диапазон
Dow Jones изтри над 500 пункта, Nvidia загуби инерция след силния отчет