Чатбтовете с изкуствен интелект, като „ЧатДжиПиТи“ (ChatGPT), имат и тъмна страна и са податливи на престъпни злоупотреби, предупреди Европол в понеделник, цитирана от световните агенции.
Европейската агенция за полицейско сътрудничество съобщи, че нейната Лаборатория за иновации е организирала работни групи във връзка с нарастващото обществено внимание към ChatGPT, за да проучи как престъпниците могат да злоупотребят с големи езикови модели (LLMs) (статистическо съпоставяне на вероятности за поредица от определен брой думи, което се използва в приложения за обработка на естествен език като разпознаване на говор, машинен превод, граматическо маркиране и извличане на информация бел. ред.) и да подпомогне на разследващите в тяхната работа.
Базираната в Хага Европол заяви, че се фокусира върху три основни области на престъпността, а именно измами и социално инженерство, дезинформация и киберпрестъпления.
Що се отнася до първата сфера, агенцията каза, че „способността на изкуствения интелект да изготвя изключително реалистичен текст го прави полезен инструмент за фишинг атаки“. Способността му да възпроизвежда езикови модели може да бъде използвана за имитация на стила на речта на определени хора или групи, обясни агенцията.
„ЧатДжиПиТи“ се отличава с бързина и мащабност при създаването на автентично звучащ текст“, което го прави идеален модел за целите на пропагандата и дезинформацията, заяви Европол по повод втората проблемна област.
Във връзка с киберпрестъпността европейската агенция отбеляза, че чатботът е способен да напише код на редица езици за програмиране. „За потенциален престъпник с малко технически познания това е безценен ресурс за създаване на зловреден код“, уточни Европол.
Създаден от американския стартъп OpenAI, ChatGPT се появи през ноември и бързо бе използван от потребители, изумени от способността му да отговаря ясно на трудни въпроси, да пише сонети или код и дори да полага изпити.
Макар ChatGPT да разполага с предпазни мерки, включващи модериране на съдържанието, при което няма да отговаря на въпроси, които са класифицирани като вредни или пристрастни, те могат да бъдат заобиколени с хитри подкани, заяви Европол.
Изкуственият интелект все още е в ранен стадий и неговите способности „се очаква да се подобрят допълнително с течение на времето“, добавя се в доклада.
„Изключително важно е да се повиши осведомеността по този въпрос, за да се гарантира, че всички потенциални пропуски ще бъдат открити и затворени възможно най-бързо“, заяви Европол.
