Жестоката борба на Илон Мъск за бъдещето на изкуствения интелект

На конференция през 2012 г. Илон Мъск се срещна с Демис Хасабис, дизайнер на видеоигри и изследовател на изкуствения интелект, който беше съосновател на компания на име DeepMind, която се стремеше да проектира компютри, които могат да се научат как да мислят като хора, пише авторитетното списание "TIME" в статия, преведена от БЛИЦ.

„С Илон се разбрахме веднага и отидох да го посетя в неговата фабрика за ракети“, казва Хасабис. Докато седеше в столовата с изглед към поточните линии, Мъск обясни, че причината за изграждането на ракети, които могат да отидат до Марс, е, че това може да е начин да се запази човешкото съзнание в случай на световна война, удар на астероид или колапс на цивилизация. Хасабис му каза да добави друга потенциална заплаха към списъка: изкуственият интелект. Машините биха могли да станат свръхинтелигентни и да надминат нас, простосмъртните, може би дори да решат да се разпореждат с нас.

Мъск направи мълчалива пауза за почти минута, докато обмисляше тази възможност. Той реши, че Hassabis може да е прав за опасността от AI и незабавно инвестира $5 милиона в DeepMind като начин да наблюдава какво прави.

Няколко седмици след този разговор с Хасабис Мъск описва DeepMind на Лари Пейдж от Google. Те се познаваха повече от десетилетие и Мъск често отсядаше в къщата на Пейдж в Пало Алто, Калифорния. Потенциалните опасности от изкуствения интелект се превърнаха в тема, която Мъск повдигаше, почти натрапчиво, по време на техните късни нощни разговори. Пейдж беше пренебрежителен.

На партито за рождения ден на Мъск през 2013 г. в Напа Вали, Калифорния, те влязоха в страстен дебат. Освен ако не изградим предпазни мерки, твърди Мъск, системите с изкуствен интелект могат да заменят хората, правейки нашия вид неуместен или дори изчезнал.

Страницата е избутана назад. Защо би имало значение, попита той, ако някой ден машините надминат хората по интелект, дори по съзнание? Това просто ще бъде следващият етап от еволюцията.

Човешкото съзнание, възрази Мъск, е скъпоценен проблясък светлина във Вселената и ние не бива да го оставяме да бъде угасен. Пейдж сметна това за сантиментална глупост. Ако съзнанието може да бъде възпроизведено в машина, защо това да не е също толкова ценно? Той обвини Мъск, че е „специалист“, човек, който е предубеден в полза на собствения си вид. „Ами да, аз съм про-човек“, отговори Мъск. „По дяволите харесвам човечеството, пич.“

Затова Мъск беше ужасен, когато в края на 2013 г. чу, че Page и Google планират да купят DeepMind. Мъск и неговият приятел Люк Носек се опитаха да съберат финансиране, за да спрат сделката. На парти в Лос Анджелис те отидоха в килера на горния етаж за едночасов разговор по Skype с Хасабис. „Бъдещето на ИИ не трябва да се контролира от Лари“, каза му Мъск.

Усилията се провалиха и придобиването на DeepMind от Google беше обявено през януари 2014 г. Първоначално Пейдж се съгласи да създаде „съвет по безопасност“, в който Мъск да е член. Първата и единствена среща се проведе в SpaceX. Page, Hassabis и председателят на Google Ерик Шмид присъстваха, заедно с Рийд Хофман и няколко други. Мъск заключи, че съветът в общи линии е глупост.

Така Мъск започна да организира своя собствена поредица от дискусионни вечери относно начините за противопоставяне на Google и насърчаване на безопасността на AI. Той дори се свърза с президента Обама, който се съгласи на среща на четири очи през май 2015 г. Мъск обясни риска и предложи той да бъде регулиран. „Обама го разбра“, казва Мъск. „Но разбрах, че няма да се издигне до нивото на нещо, за което той би направил нещо.“

След това Мъск се обърна към Сам Олтман, софтуерен предприемач, ентусиаст на спортни коли и оцелял, който зад излъскания си фурнир имаше интензивност, подобна на Мъск. На малка вечеря в Пало Алто те решиха да съосноват лаборатория с нестопанска цел за изследване на изкуствения интелект, която нарекоха OpenAI. Той ще направи софтуера си с отворен код и ще се опита да противодейства на нарастващото господство на Google в областта. „Искахме да имаме нещо като Linux версия на AI, която да не се контролира от нито един човек или корпорация“, казва Мъск.

Един въпрос, който обсъдиха на вечерята, беше кое би било по-безопасно: малък брой AI системи, които се контролират от големи корпорации, или голям брой независими системи? Те заключиха, че голям брой конкуриращи се системи, осигуряващи проверки и баланси една на друга, са по-добри. За Мъск това беше причината да направи OpenAI наистина отворен, така че много хора да могат да изграждат системи въз основа на неговия изходен код.

Друг начин за гарантиране на безопасността на ИИ според Мъск е да се свържат тясно ботовете с хората. Те трябва да бъдат продължение на волята на индивидите, а не системи, които биха могли да станат измамници и да развият свои собствени цели и намерения. Това ще се превърне в една от обосновките за Neuralink, компанията, която той ще създаде, за да създаде чипове, които могат да свързват човешкия мозък директно с компютрите.

Решимостта на Мъск да развие възможности за изкуствен интелект в собствените си компании доведе до прекъсване на OpenAI през 2018 г. Той се опита да убеди Алтман, че OpenAI трябва да бъде включен в Tesla. Екипът на OpenAI отхвърли тази идея и Алтман се намеси като президент на лабораторията, стартирайки част с печалба, която успя да набере дялово финансиране, включително голяма инвестиция от Microsoft.

Така Мъск реши да продължи напред със създаването на конкурентни AI екипи, които да работят върху набор от свързани проекти. Те включват Neuralink, който има за цел да постави микрочипове в човешкия мозък; Optimus, човекоподобен робот; и Dojo, суперкомпютър, който може да използва милиони видеоклипове, за да обучи изкуствена невронна мрежа, за да симулира човешки мозък. Това също го подтикна да стане обсебен от стремежа да направи автомобилите Tesla самоуправляващи се.

Първоначално тези начинания бяха доста независими, но в крайна сметка Мъск щеше да ги свърже заедно, заедно с нова компания, която основа, наречена xAI, за да преследва целта за изкуствен общ интелект.

През март 2023 г. OpenAI пусна GPT-4 за обществеността. След това Google пусна конкурентен чатбот на име Bard. По този начин беше подготвена сцената за конкуренция между OpenAI-Microsoft и DeepMind-Google за създаване на продукти, които могат да разговарят с хората по естествен начин и да изпълняват безкраен набор от текстови интелектуални задачи.

Мъск се тревожи, че тези чатботове и системи с изкуствен интелект, особено в ръцете на Microsoft и Google, могат да станат политически индоктринирани, може би дори заразени от това, което той нарече вирусът на пробуденото съзнание. Той също така се страхува, че самообучаващите се AI системи могат да се превърнат в враждебни към човешкия вид. И на по-непосредствено ниво той се тревожеше, че чатботовете могат да бъдат обучени да наводнят Twitter с дезинформация, пристрастни доклади и финансови измами. Всички тези неща, разбира се, вече се правеха от хората. Но възможността за внедряване на хиляди оръжейни чатботове би направила проблема два или три порядъка по-лош.

Принудата му да се притече на помощ се задейства. Той беше негодуващ, че е основал и финансирал OpenAI, но сега е оставен извън сблъсъка. AI беше най-голямата буря. И нямаше никой по-привлечен от буря от Мъск.

През февруари 2023 г. той покани — може би се налага по-добра дума — Сам Алтман да се срещне с него в Twitter и го помоли да донесе основополагащите документи за OpenAI. Мъск го предизвика да обоснове как може законно да трансформира организация с нестопанска цел, финансирана от дарения, в организация с печалба, която може да направи милиони. Алтман се опита да покаже, че всичко е законно, и настоя, че той лично не е акционер или печели пари. Той също така предложи акции на Мъск в новата компания, която Мъск отказа.

Вместо това Мъск отприщи порой от атаки срещу OpenAI. Алтман изпитваше болка. За разлика от Мъск, той е чувствителен и неконфликтен. Той смяташе, че Мъск не е вникнал достатъчно в сложността на проблема с безопасността на ИИ. Той обаче смяташе, че критиките на Мъск идват от искрена загриженост. „Той е глупак“, каза Алтман на Кара Суишър. „Той има стил, който не е стил, който аз бих искал да имам за себе си. Но мисля, че наистина го е грижа и се чувства много стресиран от това как ще изглежда бъдещето за човечеството.

Горивото за AI са данните. Новите чатботове се обучаваха върху огромни количества информация, като например милиарди страници в интернет и други документи. Google и Microsoft, с техните търсачки и облачни услуги и достъп до имейли, имаха огромни бликащи данни, за да помогнат за обучението на тези системи.

Какво може да донесе Мъск на партито? Един актив беше емисията в Twitter, която включваше повече от трилион туита, публикувани през годините, 500 милиона добавяни всеки ден. Това беше кошерният ум на човечеството, най-навременният набор от данни в света за реални човешки разговори, новини, интереси, тенденции, аргументи и жаргон. Плюс това беше страхотна тренировъчна площадка за чатбот, за да тества как истинските хора реагират на неговите отговори. Стойността на тази емисия данни не беше нещо, което Мъск взе предвид, когато купуваше Twitter. „Всъщност това беше странична полза, която осъзнах едва след покупката“, казва той.

Twitter доста свободно разреши на други компании да използват този поток от данни. През януари 2023 г. Мъск свика поредица от нощни срещи в конферентната си зала в Twitter, за да изработи начини за таксуване. „Това е възможност за монетизиране“, каза той на инженерите. Това също беше начин да се ограничи Google и Microsoft да използват тези данни, за да подобрят своите AI chatbots. Той предизвика спор през юли, когато реши временно да ограничи броя на туитовете, които зрителят може да види на ден; целта беше да се попречи на Google и Microsoft да „изчистят“ милиони туитове, които да използват като данни за обучение на своите AI системи.

Имаше още едно богатство от данни, с което Мъск разполагаше: 160-те милиарда кадъра на ден видео, които Tesla получи и обработи от камерите на колите си. Тези данни се различаваха от текстовите документи, които информираха чатботовете. Това бяха видеоданни на хора, навигиращи в ситуации от реалния свят. Може да помогне за създаването на AI за физически роботи, а не само за чатботове, генериращи текст.

Свещеният граал на изкуствения общ интелект е изграждането на машини, които могат да работят като хора във физически пространства, като фабрики и офиси и на повърхността на Марс, а не само да ни удивляват с безплътно чатене. Tesla и Twitter заедно биха могли да осигурят наборите от данни и възможностите за обработка и за двата подхода: обучение на машини да се движат във физическото пространство и да отговарят на въпроси на естествен език.

Миналия март Мъск ми изпрати съобщение: „Има няколко важни неща, за които бих искал да говоря с теб. Може само лично.” Когато пристигнах в Остин, той беше в къщата на Шивон Зилис, изпълнителен директор на Neuralink, която беше майка на две от децата му и която беше негов интелектуален спътник в областта на изкуствения интелект от основаването на OpenAI осем години по-рано. Той каза, че трябва да оставим телефоните си в къщата, докато седим навън, защото, каза той, някой може да ги използва, за да следи разговора ни. Но по-късно той се съгласи, че мога да използвам казаното от него за ИИ в моята книга.

Той и Зилис седяха с кръстосани крака и боси на вътрешния двор край басейна с близнаците си Страйдър и Езур, сега на 16 месеца, в скута им. Зилис направи кафе и след това сложи своето в микровълновата, за да стане супер горещо, за да не го изпие твърде бързо.

„Какво може да се направи, за да направим AI безопасен?“ — попита Мъск. „Продължавам да се боря с това. Какви действия можем да предприемем, за да сведем до минимум опасността от ИИ и да гарантираме, че човешкото съзнание оцелява?“

Говореше тихо монотонно, прекъсвано от пристъпи на почти маниакален смях. Размерът на човешкия интелект, отбеляза той, се изравнява, защото хората не раждат достатъчно деца. Междувременно количеството компютърна интелигентност нарастваше експоненциално, подобно на закона на Мур за стероидите. В един момент биологичната мозъчна сила ще бъде по-малка от дигиталната мозъчна сила.

В допълнение, новите системи за машинно обучение с изкуствен интелект могат сами да поглъщат информация и да се научат как да генерират резултати, дори да надграждат собствения си код и възможности. Терминът сингулярност е използван от математика Джон фон Нойман и писателя на научна фантастика Вернър Винге, за да опише момента, в който изкуственият интелект може да се движи сам с неконтролируема скорост и да изостави нас, обикновените хора. „Това може да се случи по-рано, отколкото очаквахме“, каза Мъск със зловещ тон.

За момент бях поразен от странността на сцената. Седяхме на крайградски двор до спокоен плувен басейн в задния двор в слънчев пролетен ден, с двама светлооки близнаци, които се учеха да се движат, докато Мъск мрачно спекулираше за възможността за изграждане на устойчива човешка колония на Марс преди апокалипсис с изкуствен интелект да унищожи земната цивилизация.

Мъск потъна в едно от дългите си мълчания. Той беше, както го нарече Зилис, „пакетна обработка“, отнасяйки се до начина, по който един старомоден компютър би задействал няколко задачи и ги изпълнявал последователно, когато разполагал с достатъчно мощност за обработка. „Не мога просто да седя и да не правя нищо“, каза той най-накрая тихо. „С навлизането на ИИ някак си се чудя дали си струва да прекарвам толкова много време в мислене за Twitter. Разбира се, вероятно бих могъл да я направя най-голямата финансова институция в света. Но имам толкова много мозъчни цикли и часове на ден. Искам да кажа, че не е като да бъда по-богат или нещо подобно.

Започнах да говоря, но той знаеше какво ще попитам. „И така, за какво трябва да изразходвам времето си?“ той каза. „Пускане на Starship. Сега да стигнем до Марс е много по-належащо. Той отново направи пауза, след което добави: „Освен това трябва да се съсредоточа върху това да направя AI безопасен. Ето защо основавам компания за изкуствен интелект.“

Това е компанията, която Мъск нарече xAI. Той лично нае Игор Бабушкин, бивш от DeepMind, но той ми каза, че ще го управлява сам. Изчислих, че това би означавало, че той ще управлява шест компании: Tesla, SpaceX и нейното звено Starlink, Twitter, Boring Co., Neuralink и xAI. Това е три пъти повече от Стив Джобс (Apple, Pixar) в неговия пик.

Той призна, че е започнал много зад OpenAI в създаването на чатбот, който може да дава отговори на въпроси на естествен език. Но работата на Tesla върху самоуправляващите се автомобили и робота Optimus го поставиха напред в създаването на вида AI, необходим за навигация във физическия свят. Това означаваше, че неговите инженери всъщност изпревариха OpenAI в създаването на пълноценен изкуствен общ интелект, който изисква и двете способности. „ИИ на Tesla в реалния свят е подценен“, каза той. „Представете си, ако Tesla и OpenAI трябваше да разменят задачите си. Те ще трябва да направят самостоятелно шофиране, а ние ще трябва да направим чатботове с модели на големи езици. Кой печели? Ние правим."

През април Мъск постави на Бабушкин и неговия екип три големи цели. Първият беше да се направи AI бот, който може да пише компютърен код. Програмистът може да започне да въвежда на всеки кодиращ език и ботът xAI автоматично ще изпълни задачата за най-вероятното действие, което се опитва да предприеме. Вторият продукт ще бъде чатбот, конкурент на серията GPT на Open-AI, който използва алгоритми и се обучава на набори от данни, които ще гарантират неговата политическа неутралност.

Третият гол, който Мъск даде на тийма, беше още по-велик. Неговата първостепенна мисия винаги е била да гарантира, че ИИ се развива по начин, който помага да се гарантира, че човешкото съзнание издържа. Според него това се постига най-добре чрез създаване на форма на изкуствен общ интелект, който може да „разсъждава“ и „мисли“ и да преследва „истината“ като свой ръководен принцип. Трябва да можете да му давате големи задачи, като например „Създайте по-добър ракетен двигател“.

Мъск се надяваше, че някой ден ще може да поеме още по-велики и екзистенциални въпроси. Това би било „ИИ, търсещ максимално истината. Би било грижа за разбирането на Вселената и това вероятно би го накарало да иска да запази човечеството, защото ние сме интересна част от Вселената. Това ми прозвуча смътно познато и тогава разбрах защо.

Той се впусна в мисия, подобна на тази, описана в формиращата (може би твърде формираща?) библия от детските му години, тази, която го измъкна от юношеската му екзистенциална депресия, Пътеводител на галактиката на стопаджия, която включваше супер- компютър, предназначен да разбере „отговора на основния въпрос за живота, вселената и всичко“.