Използването на ChatGPT крие рискове - моделът често халюцинира

Опасно е използването на ChatGPT като източник на информация - моделът често халюцинира и не дава изцяло точна и потвърдена информация. Това може да доведе до използването на грешна информация и последващото ѝ цитиране, това коментира основател и изпълнителен директор на ТехноЛогика и председател на КС на БАЙТ Огнян Траянов пред Bloomberg TV Bulgaria.

В момента има пик на свръхочакванията към изкуствения интелект, като той се дължи на масовия достъп до инструменти свързани с технологията. Гостът обясни, че използването на ChatGPT като източник на информация е опасно, тъй като моделът често халюцинира и не дава изцяло точна и потвърдена информация. Това е може да доведе до написването на труд, който използва грешна информация и последващото ѝ цитиране.

"Този тип модели се пускат за ползване, тъй като така те събират отново данни за обучението им. Има много по-силни технологии, които вършат по-добра работа за пряко въздействие в определени ситуации. Тези по-усъвършенствани и мощни модели не се използват. Гостът каза, че не трябва да се плашим от технологиите, а да се стремим как да не изоставаме от тях. Недостатъците на всяка нова технология се компенсират от друга технология. Като за генеративния изкуствен интелект е нужна добра регламентация и контрол", коментира Траянов.

По думите му в Българската програма за STEM центрове се предприемат грешни стъпки, които ще намалят потенциалния резултат. Гостът обясни, че не се тръгва с това да се покажат плюсовете му и да се разпространи сред учителите и училищата, като се чуят техните нужди, а след това да се строят центровете. Но се отделят средства и се предприемат действия за изграждането на центровете, преди да се направи анализ на въздействието.

"Политическата нестабилност у нас влияе на средата, в която се прави бизнес и когато тази среда е непредвидима предразполага по-смелите рискови играчи. Турбуленията притиска вземащите решения да правят решения по-бързо, а не на база на добре обмислени данни и стратегия, както и предприятията изчакват да видят развитието на обстановката и дали ще се внесе повече стабилност", каза още Траянов.

Четете повече по темата в bloombergtv.bg

Снимка: pixabay