Изкуственият интелект вече генерира научни статии, които са напълно неразличими от написаните от хора. Двама учени от водещи американски университети успели да създадат 400 научни труда само за 12 часа с помощта на ИИ. Всички материали са на финансова тематика и веднага са били изпратени на рецензенти. Изкуственият интелект е разработил самостоятелно всеки елемент от текстовете – от извеждането на хипотези до тестването им с реални данни и оформянето на академичния стил.
За този експеримент информира изданието Mirage News.
Изследването, проведено съвместно от Penn State University и University of Rochester, поставя сериозен въпрос пред научната общност: как може да бъде защитена науката, ако рецензентите вече не са в състояние да направят разлика между човешки и машинно генериран текст?
Авторите на проучването Михаил Великов и Робърт Нови-Маркс са реализирали своя проект през май 2026 г., изграждайки изцяло автоматизиран процес за производство на финансови научни трудове.
В първия етап на езиковия модел са били предоставени масиви от финансови данни, които той е анализирал, за да формулира хипотези, наподобяващи мисълта на истински изследовател.
След това изкуственият интелект е написал пълните академични текстове, обхващащи въведение, преглед на съществуващата литература, методология и крайни резултати.
Макар и създадени за по-малко от денонощие, независимите проверки не са открили никакви следи или доказателства, че тези 400 статии са дело на машина.
Чрез този експеримент изследователите алармират за мащабна заплаха, известна като HARKing (Hypothesizing After Results are Known) – или извеждане на хипотези, след като резултатите вече са ясни.
Езиковите модели първо откриват закономерностите в предоставените данни и едва след това формулират хипотезите, което напълно преобръща традиционната научна методология, изискваща обратното.
Този феномен е познат в научния свят и преди навлизането на технологиите, когато безскрупулни учени са нагаждали теориите си спрямо готовите резултати, но тогава процесът е изисквал време и сериозна подготовка.
Сега изкуственият интелект е автоматизирал и мащабирал този порочен подход. Машината е генерирала стотици „открития“ и научни твърдения, без нито една от идеите да е породена от реален научен въпрос.
Огромният обем от фалшиви научни текстове увеличава неимоверно натоварването върху рецензентите и налага спешна промяна в подходите и повишаване на стандартите в академичната сфера.
В противен случай в близко бъдеще начинът, по който се провеждат изследванията и се интерпретират от обществото, може да се промени необратимо.
Учените обръщат внимание и на друга специфична опасност, наречена prompt injection. При нея в генерирания от ИИ текст се вмъкват невидими за човешкото око бели букви, съдържащи скрити инструкции.
Когато такъв документ се проверява от автоматизирана система или ИИ рецензент, софтуерът разчита скрития код и получава команда да „даде положителен отзив“.
Това показва как съвременните дигитални системи и електронни платформи за оценка могат лесно да бъдат манипулирани от хората.
