Domů     (Ne)bezpečný ChatGPT
(Ne)bezpečný ChatGPT
18.2.2023

Svět dobývají algoritmy strojového učení, neboli umělá inteligence (AI). Jednou z oblastí, kde AI ukazuje výrazný potenciál, jsou chatboti určení ke generování textu.

Tím nejznámějším je ChatGPT (Generative Pre-trained Transformer), spuštěný firmou OpenAI v listopadu 2022, a postaven na rodině velkých jazykových modelů této firmy GPT-3.

AI generované žena, foto: Pixabay
AI generované žena, foto: Pixabay

Na to, jak funguje a jaká bezpečnostní rizika přináší v dnešních dnech hojně diskutovaný ChatGPT, a jaké druhy protiopatření jsou možná, jsme se zeptali Chestera Wisniewskiho, hlavního bezpečnostního analytika společnosti Sophos.

Chestera Wisniewskiho, hlavního bezpečnostního analytika společnosti Sophos.
Chestera Wisniewskiho, hlavního bezpečnostního analytika společnosti Sophos.

Jak dobře s ohledem na možná bezpečností rizika ChatGPT funguje?

ChatGPT funguje překvapivě dobře například při psaní phishingových návnad, což se dalo očekávat s ohledem na výsledky experimentů, v rámci kterých jsme ho nechali psát dopisy, e-maily atd.

Phishingová návnada se od skutečného e-mailu liší vlastně jen akcí, která se od příjemce na konci očekává.

Možnost interakce s ChatGPT, která trochu vyladí sociální inženýrství, v kombinaci s jeho téměř dokonalou gramatikou z něj dělá ideální nástroj pro ty, kteří se snaží psát anglicky tak, aby text zněl jako od rodilého mluvčího, přestože že sami anglicky neumí.

Mohlo by to pomoci podvodníkům a botům nebo k vytváření falešných recenzí apod.?

Rozhodně ano. Kdybych se v této oblasti angažoval já, mou prioritou by bylo získat klíč k rozhraní API a začal bych jej zneužívat právě k tomuto účelu.

Vzhledem k nízké kvalitě mnoha existujících spamových či recenzentských botů lze takto dosáhnout mnohem lepšího výsledku s větší unikátností, než byste kdy mohli nakódovat sami ručně.

Jaké druhy protiopatření jsou možné?

To je zajímavá otázka. Výzkumníci z Hugging Face vytvořili detektor GPT-2, který měl rozumnou přesnost, což naznačuje, že by mohl existovat způsob, jak detekovat text generovaný tímto konkrétním modelem s poměrně vysokou přesností.

Samozřejmě, pokud začnou marketingové týmy používat ChatGPT3 k psaní reklamních textů, mohlo by jim to komplikovat blokování textu, u kterého je vysoká pravděpodobnost, že byl vygenerován umělou inteligencí (ale nebo taky ne…).

Většina podvodů obsahuje nějakou „výzvu k akci“. Klikněte zde, otevřete toto, zavolejte na toto číslo atd. Možná tedy bude jednodušší zaměřit naše technické detekce spíše na tyto výzvy k akci než na samotný obsah e-mailu.

Detekce je značně složitá, protože end-to-end šifrované chaty v rámci služeb, jako jsou WhatsApp a Signal, nelze filtrovat stejným způsobem, jakým můžeme filtrovat nechráněné zprávy, například e-maily.

Můžeme ale s jistotou říci, že dny, kdy jsme se spoléhali na uživatele, že podvodné zprávy odhalí a budou je ignorovat, jsou pryč.

Robůtek vygenerovaný AI, foto: Pixabay
Robůtek vygenerovaný AI, foto: Pixabay
Foto: Pixabay, Sophos
Související články
Věda a technika
Od prvních 3D filmů po Apple Vision Pro: Jak virtuální realita dobývá svět
Virtuální realita není novinkou posledních let – její kořeny sahají až do 20. let minulého století. Jak se z primitivních zařízení stala technologie, která mění zábavu, medicínu i vzdělávání? A proč jsou nové 3D brýle od Applu považovány za revoluci? První kroky do virtuálního světa Ačkoliv by se mohlo zdát, že technologie využívaná k vytvoření […]
Věda a technika
Ptakopysk a korovec: Nečekaní jedovatí savci a plazi
Vypadají roztomile nebo neškodně, ale jejich jed vás může vyřadit na měsíce. Objevte fascinující svět ptakopyska podivného a korovce jedovatého – tvorů, kteří dokazují, že jed nemají jen hadi a pavouci. Má velký plochý čenich, který vypadá jako zobák, silnou kůži pokrytou hnědou srstí, široký plochý ocas a drápy s plovacími blánami. Je to sice […]
Věda a technika
Letadlo těžší než vzduch
Už nejstarší mýty vypráví o létání. S křídly to zkouší už Ikaros, který ale vyletí příliš blízko slunci, jež jej spálí. Křídla se i v průběhu středověku a novověku staví z peří, ale i z jiných materiálů, a odvážní vynálezci s nimi skáčou z věží a pod věžemi si lámou nohy. I Leonardo da Vinci (1452–1519) propadne létání a navrhne hned […]
Věda a technika
Od afrodiziaka po smrt: Puchýřník a taipan
Brouk, který dokáže zabít krále, a had s jedem pro stovku lidí. Puchýřník lékařský a taipan menší jsou živým důkazem, že jed může být lékem i zbraní – záleží jen na dávce. Puchýřník lékařský: Afrodiziakum, se kterým se to nesmělo přehnat Tito brouci s leskle zelenými krovkami hezky vypadají, ale nos nepotěší. Sami vylučují sekret […]
reklama
svět zločinu
Krvavý pád Bonnie a Clydea: Jak skončila nejslavnější zločinecká dvojice?
Dva roky teroru, desítky mrtvých a nekonečný útěk před zákonem. Jak dopadli Bonnie a Clyde, nejslavnější zločinecký pár Ameriky? A proč jejich smrt šokovala celý svět? Smyčka se stahuje V červenci roku 1933 byl gang dvakrát téměř dopaden. Z obou přestřelek, při kterých byla policie ve velké přesile, se přesto Clydeovi, Bonnie a jejich parťákům […]
Óm Širinkjó: Sekta, která šokovala svět smrtícím útokem
Skupina poblázněných sektářů vypustila v prostorech tokijského metra během ranní špičky smrtelně jedovatý plyn sarin ve snaze zachránit lidstvo. Vedl je jistý Šókó Asahara, zarostlý poloslepý muž z Kjúšú. Čím je přesvědčil, aby ho následovali? Šókó Asahar (1955–2018) se narodil v roce 1955 jako Čizuo Matsumoto, šesté ze sedmi dětí do chudé rodiny výrobců rohoží, […]
Bonnie a Clyde: Láska, která psala dějiny zločinu
Jejich jména se stala synonymem pro romantizovaný zločin. Bonnie Parkerová a Clyde Barrow – milenci, kteří během Velké hospodářské krize terorizovali Ameriku. Jak začal jejich příběh a proč dodnes fascinují svět? Kdo by neznal Bonnie a Clydea, legendární zločinecký pár z období velké hospodářské krize? Jejich dramatický příběh fascinuje veřejnost dodnes a mnoho lidí slavné […]
Nejhorší masová vražda v dějinách Spojených států
Samozvaný mesiáš Jim Jones (1931–1978) založil v Indianapolis v 50. letech křesťanskou sektu Chrám lidu, jejímž prostřednictvím kázal o rovnosti a bojoval proti rasismu. Na první pohled to vypadalo téměř skvěle, tak proč ten tragický konec? Ačkoli byl Jones běloch, během několika let získal do svých řad tisíce stoupenců, zejména Afroameričanů. Sám Jones v roce […]
reklama
záhady a tajemství
Původ lidské řeči: Tajemství, které stále hledá odpovědi
Představte si dobu, kdy naši předkové teprve začínali komunikovat. Možná vše začalo jednoduchým poukázáním na zralé ovoce. Postupně se pak z těchto prvotních pokusů o dorozumění vyvinulo něco mnohem systematičtějšího. Jak se stalo, že jsme z pouhých zvuků a gest vyvinuli něco tak složitého, jako je lidská řeč? Na začátku možná lidé používali gesta a […]
Nan Madol: Tajemné město na umělých ostrovech, které vědci nedokážou vysvětlit
V hlubinách Tichého oceánu, nedaleko ostrova Pohnpei, se ukrývá jeden z nejzáhadnějších archeologických pokladů světa – ruiny města Nan Madol. Postavené na umělých ostrůvcích z obřích čedičových kvádrů, toto místo odolává jednoznačnému vysvětlení. Kdo ho skutečně postavil a jak to dokázali? Odpovědi možná leží v zapomenuté historii dávné civilizace. Moře a oceány jsou pro nás […]
Zemřel Ježíš na kříži? Anebo vstal z mrtvých?
Křesťané věří, že v době, kterou dnes slavíme jako Boží hod velikonoční, vstal Ježíš z mrtvých – a to k nesmrtelnosti. Jak se na to dívá věda? Ta zmrtvýchvstání neuznává. Ježíš umírá na kříži zhruba za tři až šest hodin po přibití. V případě klasického ukřižování hlavou vzhůru je to neobvykle brzy – lidé umírají […]
Robin Hood: Mýtus, legenda, nebo skutečný král zbojníků?
Kdo by neznal jméno Robin Hood? Slavný psanec ze Sherwoodu se za staletí proměnil ve folklorní ikonu, hrdinu stovek knih, filmů i seriálů. Ale kdo vlastně byl muž, jehož příběh přežil staletí a stal se symbolem spravedlnosti? Mýtus, nebo historická postava? Příběh, který přerostl do legendy První dochované zmínky o Robinovi pocházejí ze 14. století. […]
Nenechte si ujít další zajímavé články
Dulce: Dobrota, které neodoláte
panidomu.cz
Dulce: Dobrota, které neodoláte
Ta dobrota se jmenuje dulce de leche a možná už jste ji objevili v obchodech. Ale nepochybujte o tom, že doma připravená bude ještě lepší. Název je španělský a znamená jednoduše „mléčná sladkost“. Původ ovšem není úplně jednoznačný, o autorství této receptury se pře hned několik latinskoamerických zemí a k tomu Francie, kde se traduje,
Ferdinand I. zatrhl šizení na tržištích
historyplus.cz
Ferdinand I. zatrhl šizení na tržištích
„Prvotřídní kvalita, dovoz z Itálie,“ přesvědčuje kupec s látkami bohatou pražskou měšťanku. Žena pečlivě osahává štůček mušelínu. „Vezmu si pět loket,“ prohlásí. Kupec rychle naměří požadovanou délku. Pořádný kus mu přitom zůstane za prsty…   „Na šaty ho bude málo, milostpaní. Stačí jenom na sukni,“ zhodnotí švadlena množství růžového mušelínu. „Ošidili vás, podívejte.“ Vezme do ruky dřevěnou
Kouzlení s vodou z potoků a studánek
nejsemsama.cz
Kouzlení s vodou z potoků a studánek
Voda má v magii zvláštní místo. Má jedinečné vlastnosti, které pro vás mohou být nejen zdrojem osvěžení, ale i duchovní síly a léčení. Voda z potoků a studánek má moc přinést do vašeho života pozitivní změny a obnovit vaši energii. Využitím těchto přírodních zdrojů v magii můžete obohatit své rituály a přinést do svého života větší harmonii a klid. Je důležité
Ten můj chlap je prostě báječný
skutecnepribehy.cz
Ten můj chlap je prostě báječný
Jsem holka Štěstěny, tvrdila moje máma, když jsem doma představila Mirka. Mohla na něm oči nechat. To nadšení ji neopustilo nikdy. Myslím, že mi trochu záviděla, ale nikdy jsem jí to neřekla. Tátu měla ráda, ale co si pamatuji, tak jsme s Mirkem byli zamilovaní mnohem víc. Jsme spolu moc rádi Tehdy byla jiná doba, když
Září Svobodová díky nové lásce?
nasehvezdy.cz
Září Svobodová díky nové lásce?
Přestože jí osud připravil až příliš kruté momenty, nikdy nepřestala věřit, že bude znovu šťastná. Sympatická herečka ze seriálu Ulice Ilona Svobodová (64) se má už několik týdnů potkávat se stejně
Hříbková omáčka
tisicereceptu.cz
Hříbková omáčka
Královskou houbou českých lesů je pravý hřib. Suroviny 400 g houby 1 větší cibule 2 lžíce másla 200 ml šlehačky 100 ml zakysané smetana 1 bobkový list 5 kuliček nového koření petrželka ne
Krvavé maltské podzemí a tajemná Petra
enigmaplus.cz
Krvavé maltské podzemí a tajemná Petra
V oblasti Paola na předměstí hlavního města La Valetta na Maltě se v roce 1902 dostala skupina dělníků do problémů. S několika se při rozbíjení skal propadla zem. „Dostaňte nás odsud, něco tady je,“ z
Historické Boskovice: Procházka od hradu k zámku
epochanacestach.cz
Historické Boskovice: Procházka od hradu k zámku
Návštěvou jednoho města si snadno zajistíme program třeba na celý víkend. Boskovice totiž nabízejí hned dvě významné architektonické památky, vzdálené od sebe jen půl kilometru. A tak se vydejme za hradem i za zámkem do krásné jihomoravské krajiny. Trhová osada Boskovice na okraji Drahanské vrchoviny vznikla někdy ve13. století, a už v roce 1313 kronikáři zaznamenali
Pátrání po nacistickém zlatě: Je ukryté pod hladinou německého jezera?
epochalnisvet.cz
Pátrání po nacistickém zlatě: Je ukryté pod hladinou německého jezera?
Nad vodou se převalují chuchvalce mlhy, ze kterých se náhle vynoří siluety několika člunů. Mají velmi podivnou posádku. Dobře živení, po zuby ozbrojení muži v černých uniformách a na straně druhé: zubožená těla oblečená v chatrných vězeňských hadrech. Co tato přízračná scéna znamená?   Je jaro roku 1945, druhá světová válka se chýlí ke konci. Jezero Stolpsee
Stinná stránka rozvinutějších mozků: rychleji stárnou
21stoleti.cz
Stinná stránka rozvinutějších mozků: rychleji stárnou
Lidský mozek, více než jakýkoliv jiný orgán, odlišuje náš druh od ostatních. Během posledních přibližně sedmi milionů let se jeho velikost a složitost výrazně zvýšila, což nám umožnilo používat jazyk,
&Beyond: Nezapomenutelné safari napříč východní Afrikou pro romantiky i dobrodruhy
iluxus.cz
&Beyond: Nezapomenutelné safari napříč východní Afrikou pro romantiky i dobrodruhy
&Beyond, světově uznávaný lídr v oblasti luxusní ekoturistiky, představuje své rozmanité portfolio safari lodgů a kempů ve východní Africe. Jako lídr v oblasti zodpovědného cestovního ruchu organi
Dechberoucí „katedrála“ v oblacích
rezidenceonline.cz
Dechberoucí „katedrála“ v oblacích
Třípodlažní penthouse na vrcholu nejvyššího věžáku severně od 72. ulice v New Yorku „patřil“ jednomu z protagonistů populárního seriálu, mapujícího život milionářské rodiny Royových. Jakkoliv jsou jejich osudy fiktivní, nemovitosti, v nichž „žijí“, jsou velmi reálné. Ohromující luxusní byt s pěti ložnicemi, čtyřmi koupelnami a výhledem na Husdon Yards je přitom jenom jednou z nemovitostí
Provozovatel: RF HOBBY, s. r. o., Bohdalecká 6/1420, 101 00 Praha 10, IČO: 26155672, tel.: 420 281 090 611, e-mail: sekretariat@rf-hobby.cz