AI-комп'ютери мають виконувати завдання як локально, так і в хмарі
Published
Багато виробників комп'ютерів зараз працюють над новим типом ШІ-комп'ютера, який називають агентним ШІ-ПК. Ідея полягає в тому, що комп'ютер може виконувати ШІ-завдання різного роду і сам вибирає, де їх виконувати. Деякі завдання можна запускати безпосередньо на апаратному забезпеченні комп'ютера, а інші надсилаються до великих ШІ-моделей у хмарі.
Найбільша перевага цієї моделі полягає в тому, що споживання токенів може зменшитися. Токени — це невеликі текстові одиниці, які ШІ-моделі враховують під час читання й написання тексту, і їх часто використовують для вимірювання вартості та потреб у ресурсах. Якщо простіші завдання можна виконувати локально, до хмари потрібно надсилати менше токенів. Це може зробити використання дешевшим і ефективнішим.
Water водночас залишається кілька викликів. Локальні ШІ-моделі зазвичай менші за великі моделі в хмарі, тому з деякими завданнями вони можуть справлятися гірше. Також важко заздалегідь визначити, яка модель найкраще підходить для кожного завдання. Крім того, комп'ютери мають мати достатньо потужності та пам'яті, щоб запускати ШІ-моделі так, аби користувач не відчував цього у повсякденній роботі.
Отже, постачальники бачать майбутнє, в якому комп'ютери та хмарні сервіси співпрацюють. Однак наскільки добре ця ідея працюватиме на практиці, ще належить побачити, і це стане зрозуміло, коли більше користувачів почнуть працювати з цими комп'ютерами у своєму повсякденному житті.
Sources: Computer Sweden
More Sweden news
- More people in Sweden use AI, most trust its answers
- SMHI issues several yellow snow warnings for parts of Sweden
- Sweden's parliament votes on a change that could revoke citizenship
- Planned data center in Skellefteå could become Sweden's largest electricity user
- Vietnam and Sweden want to develop cooperation in more areas
- Swedish gaming industry thriving this year
- Binance targeted in coup attempt: Report points to security weaknesses
- Sweden drops in climate ranking – new record low