GPT-4 dokáže i z amatérů udělat kyberzločince, míní experti

Jakmile byla veřejnosti zpřístupněná služba ChatGPT, prakticky celý svět žasnul. Webová aplikace poháněná obsáhlým jazykovým modelem GPT-3, která dokáže odpovídat na složité dotazy v nejrůznějších jazycích a je schopna srozumitelně vysvětlit učivo nebo napsat scénář, tady dříve zkrátka nebyla.

Už tak široká škála možností se ještě zvětšuje díky nové verzi GPT. OpenAI před několika dny odhalila model GPT-4 který je trénován na daleko vyšším množství dat než jeho předchůdce a nyní například dokáže rozpoznat, co se nachází na obrázku. V budoucnu bychom se mohli dočkat i komplexnější práce s audiovizuálním obsahem.

ChatGPT je zkrátka využitelné v řadě různých oborů. Díky svým znalostem v oboru IT má co nabídnout i programátorům, jimž může pomoct s opravou chyb v kódu, anebo dokonce s tvorbou jako takovou. Stejně jako na opisování písemek lze však ChatGPT zneužít i k tvorbě škodlivého softwaru, na což experti upozorňovali již dříve. S příchodem GPT-4 je ale tato hrozba ještě o úroveň vyšší.

Výzkumníci ze společnosti Check Point Research se na GPT-4 zaměřili hned po jeho vydání. Z jejich rychlé analýzy vyplývá, že novou verzi jazykového modelu je možné snadno využít k vytváření phishingových zpráv napodobujících e-mail od banky nebo podvodných zpráv zaměstnancům. Složitá prý není ani tvorba malwaru.

OpenAI si je pochopitelně vědomo, že lze jeho služby zneužít k těmto nekalým účelům, avšak její bezpečnostní opatření není těžké obejít. Experti z Check Point Research proto míní, že GPT-4 dokáže udělat kyberzločince i z naprostého amatéra.

„Už dříve jsme upozorňovali, že ChatGPT zneužívají hackeři a je potřeba si na tuto novou vlnu hrozeb dávat pozor. Proto jsme také rychle analyzovali nejnovější verzi GPT-4. Nová platforma se sice na mnoha úrovních jednoznačně zlepšila, ale zároveň vidíme mnoho scénářů, které by mohli využít i technicky méně zdatní kyberzločinci,“ vysvětluje Pavel Krejčí, Security Engineer ze společnosti Check Point Software Technologies.

Hackeři by mohli vzhledem k rychlé reakci ChatGPT4 překonávat jednoduše technické problémy při vývoji a vylepšování malwaru. ChatGPT4 může, stejně jako prakticky všechny průlomové technologie, sloužit dobrým i špatným účelům. Umělá inteligence hraje stále významnější roli v kybernetické obraně i útocích a očekáváme, že hackeři se budou GPT-4 snažit intenzivně využít,“ pokračuje.