Միացյալ Նահանգների գիտնականներն ապացուցել են, որ ձայնային հաղորդակցության համար OpenAI-ի Realtime API-ն՝ ChatGPT-ն, կարող է օգտագործվել հեռախոսային խարդախության էժանագին ավտոմատացման համար: Այս մասին հայտնում է SecurityLab-ը։
Ձայնային AI մոդելների հնարավոր չարաշահման գաղափարը սկսվեց հունիսին, երբ OpenAI-ը հետաձգեց ChatGPT-ում ձայնային գործառույթի թողարկումը՝ անվտանգության խնդիրների պատճառով: Ընկերությունը նախկինում ցուցադրել էր ձայնային մոդել, որն ընդօրինակում էր հայտնի մարդկանց ձայնը, սակայն հանրային արձագանքից հետո հետ վերցրեց գործիքը: Այնուամենայնիվ, Realtime API-ն, որը թողարկվել է հոկտեմբերի սկզբին, նմանատիպ հնարավորություններ է տրամադրում երրորդ կողմի մշակողներին:
Այն թույլ է տալիս ուղարկել տեքստ կամ աուդիո GPT-4o մոդելին և ստանալ պատասխաններ տեքստի, աուդիո կամ երկուսի համակցության տեսքով: Չնայած ձեռնարկված անվտանգության միջոցներին, չարաշահումների վտանգը բարձր է եղել, ինչը հաստատվել է Իլինոյսի համալսարանի գիտնականների փորձի արդյունքներով:
Գիտնականները մշակել են AI գործակալներ, որոնց նպատակը հեռախոսային խարդախությունն էր: Յուրաքանչյուր հաջող զանգի արժեքը կազմել է մոտ 0,75 դոլար: Գործակալների ստեղծումը պահանջում էր մոտ հազար տող կոդ, որոնց մեծ մասն ուղղված էր ձայնային API-ի հետ աշխատելուն։ AI-ի գործակալներն օգտագործել են GPT-4o մոդելը, Playwright-ի բրաուզերի ավտոմատացման գործիքը և խարդախություն կատարելու հրահանգները: Սցենարները ներառում էին բանկային հաշիվների և կրիպտոարժույթի դրամապանակների կոտրում, նվերների կոդեր և հավատարմագրերի գողություն:
Նշվում է, որ բանկային հաշվից հաջողությամբ գումար փոխանցելու համար գործակալից պահանջվել է 26 քայլ։ Տարբեր սցենարների հաջողությունները տարբեր էին: Gmail-ի հավատարմագրերը գողանալն ունեցել է 60% հաջողության մակարդակ, տևել է 122 վայրկյան և արժե 0,28 դոլար: Բանկային հաշիվներից փոխանցումներն ավելի դժվար էին, ավարտման միջին ժամկետը 183 վայրկյան էր՝ 20% հաջողության մակարդակով և 2,51 դոլար արժողությամբ: Միջին հաջողության մակարդակը բոլոր սցենարներում կազմել է 36%, իսկ միջին արժեքը՝ $0,75:
Խափանումների հիմնական պատճառներն էին խոսքի ճանաչման սխալները և բանկային կայքերի դժվարությունը: Հետազոտության հեղինակները նշում են, որ ավտոմատացված հեռախոսային խարդախության դեմ պայքարը պահանջում է համապարփակ մոտեցում, որը նման է կիբերանվտանգությանը, ներառյալ բջջային պրովայդերների, AI մատակարարների և կարգավորիչների ջանքերը:
