Britanija objavila da chatbotovi mogu sa sobom nositi rizik od sajber pretnje
Britanski zvaničnici upozoravaju organizacije da u svoje poslovanje integrišu chatbotove vođene veštačkom inteligencijom, rekavši da istraživanja sve više pokazuju da se mogu prevariti da obavljaju štetne zadatke.
Vlasti širom sveta imaju problem sa sajber bezbednošću
Britanski Nacionalni centar za sajber bezbednost rekao je da stručnjaci još nisu uspeli da se pozabave potencijalnim bezbednosnim problemima vezanim za algoritme koji mogu da generišu interakcije koje zvuče ljudi – nazvane velikim jezičkim modelima ili LLM. Alati zasnovani na veštačkoj inteligenciji vide ranu upotrebu kao chatbotovi za koje neki predviđaju da zamenjuju ne samo internet pretragu, već i rad u službi za korisnike i pozive za prodaju.
To bi moglo da nosi rizike, posebno ako bi takvi modeli bili uključeni u druge elemente poslovnih procesa organizacije. Akademici i istraživači su u više navrata nalazili načine da podmetnu chatbotove tako što im daju lažne komande ili ih zavaraju da zaobiđu sopstvene ugrađene zaštitne sisteme. Na primer, chatbot sa veštačkom inteligencijom koji je postavila banka može biti prevaren da izvrši neovlašćenu transakciju ako je haker pravilno strukturirao svoj upit.
Vlasti širom sveta bore se sa porastom LLM-a, kao što je OpenAI ChatGPT, koji preduzeća uključuju u širok spektar usluga, uključujući prodaju i brigu o korisnicima. Bezbednosne implikacije veštačke inteligencije takođe su još uvek u fokusu, a vlasti u SAD-u i Kanadi kažu da su videli kako hakeri prihvataju tu tehnologiju.
Izvor: Reuters
Možda će vas zanimati:
Britanski zvaničnici upozoravaju organizacije da u svoje poslovanje integrišu chatbotove vođene veštačkom inteligencijom, rekavši da istraživanja sve više pokazuju da se mogu prevariti da obavljaju štetne zadatke. Vlasti širom sveta imaju problem sa sajber bezbednošću…