Пандемия от кражба на самоличности с генеративен изкуствен интелект заплашва потребителите
Генеративният AI е мотото на Световния ден на потрелителите за 2024 г.
Присвояването от генеративен изкуствен интелект на самоличности на популярни лица от телевизионния екран, артистичния свят и политическата сцена, както и на авторитети в медицинските и други науки е все по-често срещано и познато събитие в световен мащаб, но и от българската действителност. Зложелатели „превземат“ образи и гласове на артисти, политици, учени и с помощта на AI създават видеа и изображения за извършване на заблуди и измами, които струват на хората пари, стрес и много загубено време.
Неслучайно Потребителският интернационал избра тази остро актуална тема за мото на тазгодишното честване на 15 март – дата, определена за Световен ден на потребителите и превърнала се в знакова за припомняне на правата на купувачите и насърчаване на отстояването им. Генеративният AI завзема дигиталния свят и има спешни проблеми за защита на потребителите, които трябва да бъдат решени. Последиците ще обхванат рискове, свързани със защитата на данните и поверителността, излагането на онлайн измами, развиване на пристрастност, разпространение на погрешна информация и откровена дезинформация и други, което поставя въпроси за гарантирането на превантивни и ефективни грижи за потребителите и осигуряване на обезщетения.
Поставянето на темата на фокус цели да действаме още сега, за да се уверим, че AI ще бъде честен и отговорен към потребителите. Затова, наред с предотвратяването и разкриването на случаи на измами, по които и сега работят специалистите по кибер сигурност и органите на реда, е належащо да се върви и към регламентиране използването на AI предвид спецификата на тази технология и произтичащите от нея рискове и възможности.
„Генерирането на текстове, изображения, образи и гласове при предлагането на стоки и услуги може напълно да обърка хората. Все по-големи са рискове да попаднем на фалшиви видеа с популярни личности или авторитети сред научните и бизнес средите в блогове на сайтове за продажба на широк спектър от медикаменти и уреди - от такива за редуциране на теглото и изучаване на езици до лечение на хронични и тежки заболявания като тези на сърдечно-съдовата система и рак. Подобни съмнителни по произход, качество и безопасност продукти, както и реклами на фиктивни възможности за лесно забогатяване и просперитет в живота срещаме и в социалните мрежи, Google Ads и цялото онлайн простванство. Знаем и за случаи на кражба на лични данни с цел източване на банкови сметки, достъп до информация в електронните ни устройва, заключването на файлове за изнудване за откуп и пр. Липсата на прозрачност за алгоритмите при генериране на предложения за хотелско настаняване също е повод за съмнения доколко сега всичко това работи в полза на потребителите. Ето защо европейските институции подготвиха законопроект за AI, но предвид разнопосочните мнения, влияния и обективната необходимост той ще има нелеката задача едновремнно да гарантира създаването на подходящи условия за развитието на технологията и да се защитят потребителите. Докато властите спорят дали AI трябва да се управлява от задължителен закон или определени области да бъдат оставени на етичен кодекс и саморегулиране, трябва да бъдем нащрек“, казва Габриела Руменова – автор и водещ на тематичния подкаст „Ние, потребителите“.
Новият епизод на подкаста е посветен на Световния ден на потребителите. Ключов акцент е изкуственият интелект. Обсъждат се рисковете и възможностите за потребителите да попаднат на измами или да получат достъп до непознати за тях до момента, но полезни услуги, както и за бизнесите, които ще имат все повече опции да бъдат коректни или да мамят. Става дума и за предизвикателствата пред законотворците да се надпреварват с развитието на AI и да го регулират така, че да гарантират и защитата на потребителите. Не са пропуснати и високите изисквания пред контролните органи и институциите да осигурят надеждната защита на гражданите от нарушения и измами.
Във видето се дискутират и други актуални потребителски теми като дейността на инфлуенсърите, дигиталния пазар и опасните стоки и нелоялните практики на него. Зрителите ще видат и кратка история на потребителската защита, идеята за която датира отпреди близо 4 000 години...
