Gradimo AI agente koji odgovaraju kupcima na WhatsApp-u, Instagramu, email-u i web chat-u. Evo neugodne druge polovine te rečenice: isti modeli koji te agente čine korisnim čine prevare jeftinim, tečnim i ubedljivim na velikoj skali. Ako stavljate AI na svoje kanale prema kupcima, vredi razumeti obe strane, ne samo demo.
Ovo nije prodajni govor bezbednosne firme. Mi gradimo korisnu verziju ove tehnologije, i radije bismo bili iskreni o ostatku nego da se pravimo da ga nema.
Šta se zapravo promenilo
Prevare su se nekad odavale same. Loša gramatika, očigledno lažan logo, tuđ akcenat na telefonu. AI je uklonio te znake. Model napiše besprekoran phishing na bilo kom jeziku, klonira glas iz nekoliko sekundi snimka i generiše lažan support chat koji zvuči tačno kao pravi brend, za skoro ništa, hiljadu puta. Veština i trošak koji su nekad ograničavali koliko prevare neko može da izvede su nestali.
Pomak je dovoljno velik da sajtovi za edukaciju o prevarama sada prate "AI prevare" kao zasebnu kategoriju, pored klasika kao što su phishing i investicione prevare. To je pošten signal kuda ovo ide.
Gde ovo pogađa biznis kao vaš
Tri načina na koja ovo stiže do firmi koje pričaju sa kupcima onlajn:
- Impersonacija. Prevarant napravi lažan WhatsApp ili Instagram "support" nalog sa vašim imenom i logoom, a vaši kupci ne mogu da ga razlikuju od pravog.
- Savršena hitnost. AI napiše besprekornu "vaš nalog je zaključan, potvrdite plaćanje ovde" poruku, personalizovanu detaljima pokupljenim sa weba.
- Vaš sopstveni recept, okrenut protiv vas. Koji god kanal koristite da dođete do kupaca, neko sada može ubedljivo da ga imitira.
Ništa od ovoga ne znači da je AI na vašim kanalima loša ideja. Znači da je demo sa srećnim scenariom samo pola priče.
Šta radimo po tom pitanju kada gradimo
Nismo bezbednosna firma. Ali dizajniramo AI prema kupcima sa realnošću prevara na umu, jer smo mi ti koji stavljaju glas brenda u automatizovan kanal. Navike koje su bitne:
- Jedan zvanični kanal, jasno označen svuda. Kupci treba da znaju vaš pravi broj i handle, a vi treba to da ponavljate dok ne dosadi.
- Ljudi odobravaju sve što dotiče novac ili podatke. Naši agenti predlažu; čovek potvrđuje refundacije, isplate i izmene naloga. To je Veles default za kvalitet, i ujedno je kontrola protiv prevara.
- Nikad ne tražite osetljive podatke u chat-u. Dobro izgrađen agent ne traži lozinke, pune brojeve kartica ili jednokratne kodove. Radite to dosledno i "nikada vas nećemo tražiti to" postaje signal kome vaši kupci mogu da veruju.
- Brza eskalacija ka čoveku. Kada razgovor izgleda sumnjivo, treba brzo da stigne do osobe, a ne da se vrti u krug sa botom.
Šta reći kupcima
Ne možete zakrpiti ljudsko poverenje, ali možete da ga pripremite. Osnove i dalje drže i protiv prevara AI-nivoa: proverite kanal pre nego što reagujete, tretirajte hitnost kao znak upozorenja, i proverite pre nego što platite.
Pomaže i da ljude uputite na razumljiv resurs. Tutela Digitalis razlaže uobičajene tipove prevara, uključujući AI prevare, ima scam-checker i nudi pregled slučaja ako neko misli da je već prevaren. Uputiti zabrinutog kupca negde korisno je bolje nego ostaviti ga da gugla u panici.
Iskrena poenta
AI je alat. Pomaže onima koji grade korisne stvari i onima koji grade štetne, i nije ga briga koji su. Stavljanje AI-ja na vaše kanale prema kupcima i dalje vredi, korist je stvarna, ali treba da to gradi neko ko je razmišljao o strani prevara, ne samo o srećnom scenariju.
Ako želite AI prema kupcima izgrađen sa ovim zaštitama od početka, zakažite 30-minutni poziv. Pokazaćemo vam verziju koja pomaže vašim kupcima a da prevarantima ne pruži bolju masku.