Скандал с математици засилва опасенията, че AI може да подкопае науката

Изкуственият интелект (AI) ускорява научните открития, но поражда и сериозни въпроси за достоверността на изследванията.

Случай, свързан с твърдение на OpenAI за решаването на сложен математически проблем, отново постави на дневен ред опасенията за прозрачността и надеждността на научния процес.

Спор около математическо откритие

OpenAI обяви, че нейни AI агенти са решили задача, свързана с известните уравнения на Навие–Стокс, за която математиците отдавна търсят решение. Според компанията системата е постигнала резултата за 88 часа.

Малко преди съобщението математикът Тристан Бъкмастър от Нюйоркския университет изрази опасения, че работата на неговия екип може да е повлияла на разработката на OpenAI.

Той и колегата му Левент Алпьоге използвали инструмента Codex на компанията за собствените си изследвания.

Бъкмастър уточни, че не обвинява никого в неправомерни действия. От OpenAI заявиха, че никой в компанията не е имал достъп до работата на другия екип преди публикуването ѝ, предаде BBC (Би Би Си).

По-късно компанията посочи, че въведените от Бъкмастър заявки в Codex през двата месеца преди съобщението не са могли да повлияят на системата.

AI ускорява откритията, но не гарантира точност

Един от най-успешните примери за използването на AI в науката е моделът AlphaFold на Google DeepMind, който предсказва структурата на протеините.

Технологията помогна на учените да анализират около 200 милиона протеинови структури за приблизително година – задача, която би изисквала огромен лабораторен ресурс.

Други разработки обаче пораждат съмнения. DeepMind съобщи, че негов модел е предсказал над два милиона нови кристални структури, но химици от Калифорнийския университет установили, че част от изследваните материали не представляват съществено нови открития. Компанията оспорва тази оценка.

Фалшиви изследвания и измислени източници

Нараства и опасението, че научните издания могат да бъдат залети с текстове, генерирани от AI, които съдържат измислени цитати и несъществуващи изследвания.

Проучване на повече от милион биомедицински публикации установява, че към края на 2024 г. близо 90% от тях съдържат езикови характеристики, свързвани с текстове, генерирани от големи езикови модели.

Този метод не доказва сам по себе си, че дадена статия е написана с AI, тъй като инструментите за откриване на подобно съдържание не са напълно надеждни.

Отделно изследване на научни рецензии за четири големи конференции по компютърни науки показва, че до 17% от текста в тях е бил съществено променен с помощта на езиков модел. Друг екип установява и случаи, в които AI е използван за съставяне на библиографии с несъществуващи научни публикации.

Това може да подведе други изследователи, да доведе до разхищение на средства и да забави разработването на лекарства и екологични технологии.

Човешкият контрол остава необходим

Научните издателства предприемат мерки срещу проблема. Elsevier използва около 100 индикатора за откриване на публикации, които се нуждаят от допълнителна човешка проверка.

Изданията на Nature забраняват използването на генерирани с AI изображения и предупреждават рецензентите да не качват ръкописи в подобни системи.

Според специалисти решението не е изоставяне на изкуствения интелект, а използването му при ясни правила и човешка отговорност. Изследователите трябва да разбират как системите стигат до резултатите си и да проверяват заключенията, преди да ги представят като научни факти.

AI вече подпомага открития в биологията и медицината, но основното предизвикателство остава доверието в научния процес. Технологията може да ускори изследванията, но не може да замени проверката на доказателствата и отговорността на учените.

Снимка: Unplash