Jak vám umělá inteligence ukradne peníze

Radek Váňa — Fri, 10 Mar 2023 23:01:46 +0000

Snadno. Tady je náš příběh a aktuální zkušenost s tím, jak si zkoušíme umělou inteligenci, všechny ty skvělé a náš svět měnící chat-boty. A jak vám během chvilky změní pohled na věc. A taky stav bankovního konta.

Na Facebooku nebo možná i jiné reklamní síti si všimnete reklamy na CHAT AI, třeba speciálně připravený pro copywritery a marketingové agentury jako jsme my v Idealabu.
Jste na Facebooku, kde předpokládáte, že reklamy mohou zadávat jen ověření a korektní inzerenti, jako jste vy. Pardon, tedy my z reklamky. Kliknete na reklamu na Facebooku a pak už to jde vcelku rychle. Tady je Idealab short story o tom, jak jsme přišli o docela dost peněz.

Dám si k obědu omáčku, nebo sbírku na Facebooku?

„Někdo mi asi hacknul osobní profil na Facebooku a přejmenoval ho,“ píše na whatsuppu kolegyně, která má na starosti placené kampaně na Facebooku. Ale řeším to, dodává. Máme všude hodně odolná hesla, samozřejmě dvojfázovou verifikaci…

„Tati, pošli mi stovku na oběd, zapomněl jsem si objednat ve školní jídelně jídlo,“ píše mi během ranní porady synek na messengeru. Sakra, zase jsme zapomněli v systému kliknout UHO [univerzální hnědá omáčka] v oblíbené appce Strava, napadne mne.
Přihlásím se do internetového bankovnictví, třikrát kliknu, pošlu synkovi kilo na kebab a jdu pokračovat v poradě… A na displeji mi jede jedna červená linka za druhou:

Transakce ve výši: 10000,00 CZK
směr pohybu: Výdej
typ pohybu: Karetní transakce
datum zaúčtování: 06.03.2023
číslo karty: 510658******7101
popis transakce: Nákup: FACEBK J8MZ2L3ND2, 4 Grand Canal Square, fb.me/ads, 2, IRL, dne 5.3.2023, částka 10000.00 CZK

Transakce ve výši: 12500.00 CZK
směr pohybu: Výdej
typ pohybu: Karetní transakce
datum zaúčtování: 06.03.2023
číslo karty: 510658******7101
popis transakce: Nákup: FACEBK J8MZ2L3ND2, 4 Grand Canal Square, fb.me/ads, 2, IRL, dne 5.3.2023, částka 12500.00 CZK

Co tři minuty, to další nová transakce. A všechny posílají peníze za reklamu, kterou jsme si neobjednali, firmě Facebook do Irska.
Trvá minutu, spíš ale pět, než se vzpamatuju. Letím k počítači, otevírám internetové bankovnictví a… Mezitím je tam transakcí už sedm a částka letí nahoru.
Hledám, kde se v internetbankingu dá zablokovat karta.
Pro co ji mám blokovat? Pro internetové transakce, nákupy u obchodníků, platby třetím stranám… F*ck, co je vlastně Facebook?
Internetová transakce? Nákupy u obchodníka? Platba třetím stranám?

Všude dávám 0 [nula Kč], odesílám, autorizuju a v horním poli internetového bankovnictví se začínají hromadit nezúčtované transakce.

Ano, všechny transakce míří do téhle povedené firmy, která se jmenuje Facebook a která nemá žádnou technickou podporu, za nic nenese odpovědnost, a když tam něco chcete ukázat (rozuměj třeba reklamu), tak platíte. Samozřejmě kartou, kterou ale nedovede ochránit. A to ani při všech zapnutých bezpečnostních verifikacích.
Ta firma se pak ve vaší bance pak bude zobrazovat takto:

FACEBK J8MZ2L3ND2, 4 Grand Canal Square, fb.me/ads, 2, IRL

Jak tenhle podvod na Facebooku funguje?

Kliknete na nějakou reklamu na „super appku“, třeba na vyzkoušení umělé inteligence. Na schválenou a zaplacenou reklamu na Facebooku. Takovou, jakou tam roky zadáváme i my v Idealabu pro naše klienty.
Ano, je to ověřený reklamní klient, jako jste vy nebo my v Idealabu. Appka, kterou si zkoušíte třeba pro psaní blogových postů, vám změní profil a odebere přístup do vašeho správce reklam, kde máte uloženou bankovní kartu. Ano, tu ze které si ty skvělé reklamy pro skvělé kampaně na Facebooku automaticky strhávají.

Mezitím daná AI appka (nebo nějaký živý chlapík – to opravdu nevíme) založí vaším jménem na Facebooku sbírku (jestli jste to nevěděli, to se dá na Facebooku udělat, když chcete zachránit nějaké ohrožené zvíře, nebo provést cokoliv jiného bohulibého) a na tu sbírku z vaší uložené a zabezpečené karty začne přispívat.

Darujete tak sám sobě 10 000 Kč, 12 000 Kč a tak to jede dál. I když máte na všech krocích (změna, autorizace…) dvojfázové ověření. My jsme na to přišli asi po hodině, vše blokli a přišli o:

přístup k firemní stránce na Facebooku,
správce reklam tohoto účtu,
platnou bankovní kartu,
vyšší desítky tisíc korun,
a poslední zbytky víry v to, že Facebook je firma, o které má smysl vůbec mluvit, natož v jejím prostoru pobývat

Jak se bránit podvodům na Facebooku

No upřímně zatím moc nevíme. Spravujeme desítky účtů, jsme na téhle síti docela dlouho a utrácíme na ní my i naši klienti docela dost peněz. Takže, když si pak čteme články jako je:

Hackers use fake ChatGPT apps to push Windows, Android malware nebo diskuse jako je tato, přichází čas říct si, že Facebook je v B2B marketingu (a možná i jinde) nejen čím dál víc na nic, ale nedokáže ochránit ani základní prvek obchodního vztahu, a tím je vaše bankovní karta, odkud mu posíláte peníze za zobrazování reklam.

Co dál?

V Idealabu jsme během tohoto hektického pondělí zvládli několikrát pohovořit s bankou. Byli vcelku milí. Ano, mají takových situací čím dál víc. Navštívit pobočku banky. Při tom letmo shlédnout omšelé sídliště Hvězda od architekta Vlada Miluniče, které žádnou jihomořskou energii – jak Vlado hlásal – nevyzařovalo. Napsat si desítky chatů na interním whatsuppu. Taky jsme si hodně telefonovali při cestě do banky.

Dále máme nové internetové bankovnictví (prevence phishingu – což je další povedená disciplína kyberkriminality), za pár dní přijde nová bankovní karta… Podali jsme trestní oznámení na správce naší bankovní karty, tedy firmu Facebook. Podali jsme trestní oznámení na neznámého pachatele (asi to byla AI nebo někdo bůhví odkud).
Máme určitý názor na to, jak budeme dál postupovat. Pokud se stanete obětí takové reklamy přímo na Facebooku, jako my (long story tohoto příběhu je mnohem delší a komplikovanější), přichází na řadu jedna další věc. A to je:

Trestní oznámení na firmu Facebook

Stalo se vám něco podobného a chcete poslat náš návrh trestního oznámení, které jsme podali na firmu Facebook? Třeba vám k něčemu bude.
Rád se s vámi podělím o tohle „know-how“ a rád budu dál sdílet, jak se celá takhle „byznys“ kauza s firmou, která nemá zákaznický servis, nemá žádnou telefonní linku, nemá mail, kam byste napsali, vyvíjí.

Napište mi na radek@idealab.cz
A také mne samozřejmě zajímá právní názor těch, kteří o tom vědí víc než já.