Само допреди година Salesforce беше най-гласният поддръжник на пълната автоматизация чрез изкуствен интелект.
Днес компанията, която замени хиляди роли в поддръжката с AI агенти, признава болезнена истина: големите езикови модели (LLM) все още не са готови да управляват бизнеса сами.
Сривът на акциите с 34% от пика им през декември 2024 г. е ясно доказателство за недоверието на пазарите, пише Money.bg.
Когато „умният“ чатбот започне да греши
Основният проблем, пред който се изправи технологичният гигант, е липсата на прецизност. Ръководителите на компанията разкриха шокиращи детайли от практиката:
-
Лимит на инструкциите: AI моделите започват да „чупят“ правилата и да игнорират команди, веднага щом получат повече от 8 последователни инструкции.
-
Загуба на фокус: При нестандартни въпроси от клиенти, ботовете често се „отклоняват“ от основната цел на бизнеса.
-
Халюцинации: Без строг контекст и чисти данни, изкуственият интелект генерира логично звучащи, но напълно неверни отговори.
Новата стратегия: Данните са по-важни от моделите
Изпълнителният директор Марк Бениоф, който някога искаше да прекръсти компанията на Agentforce, сега сменя тона. Новият приоритет е „детерминистична“ автоматизация. Това означава:
-
Предвидимост: AI трябва да работи в строги рамки, а не да „импровизира“.
-
Фокус върху данните: Вместо да се разчита на „интелигентността“ на самия модел, се залага на точността на фирмената база данни.
-
Хибриден модел: AI като помощник, а не като пълен заместник на човешката преценка.
Войната на концепциите: Salesforce срещу Zoho
Критиката не закъсня и от конкуренцията. Сридар Вембу, съосновател на Zoho, коментира, че Salesforce са преувеличили възможностите на AI, докато по-предпазливият подход – използването на изкуствен интелект само в строго ограничени рамки – се оказва по-стабилен и изгоден за клиентите.
„LLM са невероятни, но те не могат да управляват бизнеса ви сами. Трябва да ги свържете с точна логика и управление.“ — признават днес от Salesforce.
