Няма непробиваема защита на AI, не тренираме ChatGPT като го използваме

Няма защита на моделите с изкуствен интелект, която да не може да бъде заобиколена. Това заяви в съботното издание на предаването "България сутрин" специалистът по внедряване на AI в бизнеса Яни Лозанов.

По думите му защитите на AI може да бъдат преодолени по начин, който допуска моделът да предостави информация, която не би трябвало да дава.

"Няма защита на света, която може да те спре да го направиш", каза Лозанов в ефира на Bulgaria ON AIR.

Той обясни, че при обучението на AI е важно целта да бъде ясно зададена, както и ограниченията, в рамките на които моделът трябва да я постигне.

AI сам търси начин да постигне поставената цел

Един от подходите при обучението е т.нар. reinforcement learning. При него на изкуствения интелект се задава крайна цел, а той сам търси начин да я постигне в рамките на поставените ограничения.

Лозанов даде пример със социалните мрежи, където целта на една система може да бъде да задържи потребителя възможно най-дълго. Тя може да разполага с информация за харесванията му и времето, което прекарва на определени публикации, и сама да търси начин да изпълни задачата.

Според основателя на Ethera Technologies проблем може да възникне, когато целта или ограниченията не са достатъчно ясно формулирани.

Кой обучава изкуствения интелект

Лозанов обясни и какво представлява професията data trainer. Това са хора, които анотират и подготвят данни, които впоследствие се използват при обучението на AI.

Като пример той посочи система, която трябва да разпознава автомобили. Хора обозначават върху множество изображения къде има кола, автобус, човек или друг обект. След това подготвените данни се използват от специалистите, които обучават модела.

"Тези data trainer-и нямат директен достъп до AI. След като подготвят тези данни и ги разпишат и опишат - тук има кола, тук има автобус, това е човек, това е куче и т.н., тези данни се събират и вече data scientist-ите, т.е. инженерите по изкуствен интелект, взимат тези данни и тренират изкуствения интелект", обясни Лозанов.

За да се научи една система да разпознава даден обект, данните трябва да бъдат разнообразни. По този начин моделът се учи да разпознава общите характеристики, вместо просто да запаметява конкретно изображение.

ChatGPT си води "записки" за потребителя

Лозанов коментира и схващането, че ChatGPT се обучава в реално време от разговорите с конкретния потребител.

"Това е един от митовете. Ползвам ChatGPT, той се учи на това, което аз му казвам. Не, не е така", увери специалистът.

По думите му системата вместо това използва своеобразни "записки" за потребителя, които ѝ позволяват да запазва контекст.

"Когато си пишете с него, той си ги чете тези записки. Затова симулира много добре, че се учи, но реално трениране не се случва", обясни гостът на предаването.