През последните години свикнахме да чуваме, че изкуственият интелект изисква все по-мощни процесори, огромни видеокарти и центрове за данни, които консумират колосални количества електроенергия. Нов експеримент обаче доказа, че това невинаги е вярно.
Изследователи от EXO Labs успяха да стартират съвременен AI модел на компютър от 1997 г., оборудван с класически Pentium II процесор и едва 128 MB оперативна памет. Устройството, което за много хора е символ на първия семеен компютър от края на миналия век, успя да задвижи олекотена версия на езиковия модел Llama 2 на Meta.
Вместо да принуждават стария процесор да извършва милиарди сложни математически операции, надхвърлящи възможностите му, инженерите залагат на софтуерно пренаписване на правилата. Тайният съставка зад този успех се нарича BitNet.
Това е специализирана софтуерна архитектура, която силно опростява начина, по който изкуственият интелект обработва информация.
Вместо стандартните тежки изчисления с плаваща запетая, които изискват съвременни AI чипове, BitNet свива логиката на невронната мрежа до три прости стойности: -1, 0 и 1.
Тази минималистична логика драстично намалява натоварването и позволява на софтуера да се събере и да работи в рамките на хардуер, който днес изглежда напълно античен.
Макар софтуерният трик да кара машината от 1997 г. да мисли, цената за това е скоростта. Потребителите на съвременни чатботове са свикнали да получават дълги отговори в рамките на секунди. При този ретро експеримент обаче текстът се генерира изключително бавно.
Всяка дума се появява на екрана постепенно, изисквайки сериозно търпение от страна на оператора. Въпреки това фактът остава – машината обработва и дава смислени отговори, без да е свързана с интернет или външен облачен сървър.
Ако подобни техники за софтуерна оптимизация продължат да се развиват, в бъдеще AI моделите ще могат да работят локално върху много по-стари компютри, евтини лаптопи и умни устройства, които днес нямат достъп до модерни AI функции.
Това би намалило сериозно зависимостта от скъп облачен хардуер и би направило технологиите по-достъпни, без да е необходимо постоянно да купуваме нови устройства.
В България все още има хиляди работещи по-стари компютри в училища, държавни институции, малки фирми и домашни офиси.
Макар подобна конфигурация от миналото да не може да замени съвременна работна станция, експериментът показва, че бъдещите AI модели може да бъдат значително по-малко зависими от скъпия хардуер.
Парадоксът е, че докато технологичната индустрия инвестира стотици милиарди долара във все по-мощни и горещи AI чипове, този опит доказва нещо много важно: бъдещето на технологиите може да зависи не само от по-силния хардуер, а и от по-умния софтуер.
Именно това го прави толкова интересен.
