Shadow AI: Технологичната заплаха, която тихомълком превзема бизнеса

Нерегламентираното използване на изкуствен интелект в организациите - т.нар. Shadow AI - се превръща в един от най-сериозните нови рискове за бизнеса. 

Над 80-90% от служителите в големите корпорации вече използват AI инструменти, но едва около 20% от организациите са ги внедрили официално с ясни правила и политики. Това коментира Станислав Опаранов, директор на Protiviti България, в предаването "В развитие" с водещ Антонио Костадинов.

"Използването на AI вече е факт. Въпросът е кой го контролира и дали компаниите изобщо имат видимост върху това как служителите го използват", каза Опаранов.

Основният риск е изтичането на конфиденциална информация. Според Опаранов много служители качват чувствителни данни в AI системи без злонамереност, но това може да доведе до сериозни последици - от нарушени договори до съдебни дела.

Забраната не е решение

Ограничаването на достъпа до AI инструменти през служебни устройства не е реалистично решение, смята той.

"Ако забраним AI напълно, рискуваме да изостанем от конкуренцията. Компаниите трябва едновременно да стимулират иновациите и да управляват риска", заяви Опаранов.

Гостът подчерта, че организациите трябва да изградят governance рамки - ясни процеси за контрол, оценка на риска и измерване на ползите от AI.

Големият проблем: липса на видимост

Според Опаранов предизвикателството не е само в сигурността на данните, но и в липсата на яснота около разходите и възвръщаемостта.

"Компаниите често дори не знаят какъв е реалният им AI разход. Всеки бизнес трябва да има KPIs, да измерва ефективността и да знае каква е бизнес употребата", каза той.

Той отбеляза, че ценовите модели на големите AI доставчици се променят непрекъснато, което допълнително усложнява управлението.

Четете повече в bloombergtv.bg

Снимка: Magnific