AI’s tveæggede sværd

Populariteten af ​​generativ AI, drevet af succesfulde applikationer som ChatGPT tekstgenerations chatbot, har fanget fantasien hos mennesker verden over. Vores seneste forskning afslører, at globalt set har 67 % af forbrugerne hørt om generative AI-teknologier, hvor næsten halvdelen af ​​brugerne på markeder som Singapore har brugt en applikation, der bruger dem. Selvom der har været mange prisværdige anvendelser af disse teknologier inden for sundhedspleje, uddannelse og kunst, er det vigtigt at forstå deres bredere anvendelse og de potentielle risici, de udgør, såsom lavpris, stor desinformation.

Udviklingen af ​​generativ kunstig intelligens har gjort det nemmere og billigere at skabe overbevisende falske nyhedshistorier, opslag på sociale medier og andre former for desinformation. Disse systemer kan nu generere indhold, der næsten ikke kan skelnes fra det, der er skabt af mennesker, hvilket gør det udfordrende for folk at opdage falsk information. Dette kan føre til spredning af desinformation i et hidtil uset omfang, især når sociale medieplatforme mangler robuste identitetstjek.

Generative AI-drevne chatbots

Desuden har disse teknologier åbnet nye muligheder for svindel og social engineering-svindel. Generative AI-drevne chatbots kan nu efterligne menneskelig interaktion overbevisende, hvilket gør det nemmere for svindlere at afpresse oplysninger fra deres ofre. For at tackle disse problemer er det afgørende at udnytte AI's magt til identitetsbekræftelse og autentificering.

En måde at bekæmpe desinformation på sociale medieplatforme på er ved at bruge multimodal biometri til at verificere, at brugerne er ægte mennesker og er dem, de hævder at være i kontoåbningsfasen. Multimodale biometriske systemer bruger flere former for biometriske data, såsom stemme- eller irisdetektion, sammen med maskinlæringsalgoritmer for at forbedre nøjagtigheden af ​​identitetsverifikation. Disse systemer har også den ekstra fordel ved liveness-detektion, som kan hjælpe med at opdage konti lavet med face-morphs og deepfakes.

At bekæmpe ild med ild

Selvom ingen teknologi helt kan forhindre forbrugere i at falde for generativ AI-drevet svindel, kan AI-drevne løsninger hjælpe med at forhindre, at den stjålne information bliver brugt. For eksempel, hvis personlige oplysninger bliver stjålet for at få adgang til eller oprette en svigagtig konto, kan en onlineudbyder med et multimodalt biometrisk-baseret verifikations- eller autentificeringssystem på plads stoppe svindlere i deres spor.

Generativ AI både fordele og risici. Selvom det har sænket barriererne for udbredelse af desinformation og forenklet arbejdsgange for svindlere, tilbyder det også løfter som et forebyggende værktøj til at hjælpe brugere med at navigere i den digitale verden med øget tillid og tillid.