Служители на OpenAI и DeepMind: AI може да доведе до "изчезване на човека"

Група от настоящи и бивши служители в компании за изкуствен интелект (AI), включително OpenAI и Google DeepMind на Alphabet, изразиха загриженост относно рисковете, породени от технологията, предава Ройтерс.

В отворено писмо от група от 11 настоящи и бивши служители на OpenAI и един настоящ и друг бивш служител на Google DeepMind се казва, че финансовите мотиви на AI компаниите пречат на ефективния надзор.

"Не вярваме, че специално създадените структури на корпоративно управление са достатъчни, за да променят това", се добавя в писмото.

Освен това текстът предупреждава за рисковете от нерегулирания изкуствен интелект, вариращи от разпространението на дезинформация до загубата на независими AI системи и задълбочаването на съществуващите неравенства, което може да доведе до "изчезване на човека".

Изследователите са открили примери за генератори на изображения от компании, включително OpenAI и Microsoft, създаващи снимки с дезинформация, свързана с гласуването, въпреки политиките срещу такова съдържание.

Компаниите за изкуствен интелект имат "слаби задължения" да споделят информация с правителствата относно възможностите и ограниченията на техните системи, се казва в писмото, като се допълва, че не може да се разчита на фирмите да споделят тази информация доброволно.

Четете повече в investor.bg

Снимка: БГНЕС