Китай въвежда нови ограничения срещу емоционалната зависимост от AI чатботове

Новите правила задължават платформите да разпознават признаци на емоционален дистрес, да ограничават прекомерната употреба и да защитават личните данни на потребителите

Китай затяга регулациите върху услугите с изкуствен интелект, като въведе нови правила, насочени към ограничаване на емоционалната зависимост на потребителите от чатботове, използвани като виртуални спътници. Мерките са част от усилията на властите да регулират бързо развиващия се сектор на генеративния изкуствен интелект и да намалят потенциалните рискове за обществото.

Новите изисквания влизат в сила на фона на нарастващата популярност на виртуалните AI асистенти, които все по-често се използват за емоционална подкрепа, общуване и изграждане на дългосрочни взаимоотношения с потребителите.

Платформите ще следят за признаци на емоционален дистрес

Съгласно новите разпоредби компаниите, предлагащи подобни услуги, ще бъдат задължени да разпознават признаци на емоционален дистрес при потребителите и да предприемат действия при кризисни ситуации.

Освен това платформите трябва да въведат механизми за ограничаване на прекомерното използване на AI спътници, да гарантират на потребителите пълен контрол върху личните им данни и да предотвратяват неправомерното използване или съхраняване на чувствителна информация.

Какво попада в обхвата на новите правила

Регулациите определят като услуги с AI спътници всички приложения, които осигуряват продължително емоционално взаимодействие чрез текст, изображения, аудио или видео.

От обхвата на правилата са изключени системите с конкретно практическо предназначение, като чатботове за обслужване на клиенти, помощ при изпълнение на работни задачи, образователни платформи и научноизследователски приложения.

Популярността на виртуалните спътници расте

През последните години AI спътниците се превърнаха в широко използван инструмент в различни сфери, включително обслужване на клиенти, подкрепа за психичното здраве, грижи за деца и възрастни хора. Благодарение на способността си да симулират човешки разговори и поведение те привличат милиони потребители, но едновременно с това пораждат опасения относно възможността за формиране на силна емоционална зависимост.

Именно тези рискове мотивираха китайските власти да въведат по-строг контрол върху сектора.

Пазарът на изкуствен интелект продължава да расте

Въпреки засиления регулаторен режим китайският пазар на изкуствен интелект продължава да се разширява с високи темпове. Очакванията са стойността му да надхвърли 1,2 трилиона юана (около 177 млрд. щатски долара) през 2025 г., а до 2028 г. да достигне над 1,8 трилиона юана, стимулирана от все по-широкото внедряване на AI технологии в индустрията, услугите и публичния сектор.