Интернет преживява тиха, но дълбока трансформация, предизвикана от масовото навлизане на генеративен изкуствен интелект, предава kaldata.bg.
Двигател за дигитално замърсяване
От инструмент за творчество и продуктивност, ИИ се превръща в двигател на дигитално замърсяване, което залива онлайн пространството със синтетично съдържание с ниско качество, грешки и фалшификати.
Първите сигнали се появиха още през 2024 г., когато стана ясно, че в Уикипедия се е промъкнала статия за несъществуваща османска крепост, създадена от чатбот.
Енциклопедията стартира проект за прочистване от подобни ИИ-грешки. Но само година по-късно тестова функция за резюмиране на статии чрез изкуствен интелект бе премахната – резюметата се оказаха некачествени, дори подвеждащи.
Google - AI Overviews
Сходни проблеми преживя и Google след въвеждането на AI Overviews през май 2024 г.
Алгоритъмът започна да генерира обобщения на търсенията, но резултатите често включваха абсурдни или опасни съвети – от идентифициране на отровни гъби като ядливи до подвеждащи твърдения за религията на американски президенти.
Този информационен хаос не спира дотук. Увеличава се броят на фалшивите книги в Amazon, генерирани от ИИ и представяни като справочници или пътеводители. Много от тях съдържат само преразкази на банални факти, често дори с имена на реални автори, които нямат нищо общо с публикуваното.
Предупреждения
Специалисти предупреждават за още по-сериозна последица: така нареченият „моделен колапс“. Това явление настъпва, когато бъдещите ИИ системи се обучават върху генерирано от предишни ИИ съдържание. Така качеството на данните спада, а новите модели започват да произвеждат монотонни, неточни и все по-предсказуеми текстове.
Проблемът вече има научно наименование – Model Autophagy Disorder (MAD), състояние, при което ИИ „се самопоглъща“.
Рискови групи
В най-рисковата група са социалните мрежи и форумите – особено технически като Stack Overflow, където изкуствено генерирани отговори замърсяват потоците от информация и подкопават доверието.
Но най-опасната форма на ИИ-замърсяване остава политическата – с дийпфейкове и фалшиви новини, които се разпространяват масово пред избори или кризи.
Изследвания сочат, че ИИ-чатботовете са най-популярни сред потребители с по-ниско образование, като в определени райони употребата им достига до 20%. Това поставя сериозен въпрос за медийната грамотност и риска от масова дезинформация в уязвими общности.
Решения
Решенията са трудни, но възможни – от етикетиране на синтетично съдържание до създаване на глобални хранилища с "чисти" данни за бъдещото обучение на езикови модели.
Ако това не се случи, интернет рискува да се превърне в огледална зала на безсмислени машинни отговори, а самото развитие на изкуствения интелект – в задънена улица.
