AI-datorer ska köra uppgifter både lokalt och i molnet
Published
Många tillverkare av datorer arbetar nu med en ny typ av AI-dator, som kallas agentisk AI-pc. Idén är att en dator kan utföra AI-uppgifter av olika slag, och att den väljer var uppgiften ska göras. Vissa uppgifter kan köras direkt på datorns egen hårdvara, medan andra skickas till stora AI-modeller i molnet.
Den största fördelen med denna modell är att förbrukningen av tokens kan minska. Tokens är de små textenheter som AI-modeller räknar när de läser och skriver text, och de används ofta för att mäta kostnad och resursbehov. Om enklare uppgifter kan göras lokalt behöver färre tokens skickas till molnet. Det kan göra användningen billigare och mer effektiv.
Samtidigt finns det fortfarande flera utmaningar. Lokala AI-modeller är ofta mindre än de stora modellerna i molnet, och de kan därför klara vissa uppgifter sämre. Det är också svårt att avgöra i förväg vilken modell som passar bäst för varje uppgift. Dessutom måste datorerna ha tillräckligt med kraft och minne för att kunna köra AI-modeller utan att användaren märker av det i vardagen.
Leverantörerna ser alltså en framtid där datorer och molntjänster samarbetar. Hur väl idén fungerar i praktiken återstår dock att se, och det kommer att visa sig när fler användare börjar arbeta med dessa datorer i sin vardag.
Sources: Computer Sweden
More Sweden news
- More people in Sweden use AI, most trust its answers
- SMHI issues several yellow snow warnings for parts of Sweden
- Sweden's parliament votes on a change that could revoke citizenship
- Planned data center in Skellefteå could become Sweden's largest electricity user
- Vietnam and Sweden want to develop cooperation in more areas
- Swedish gaming industry thriving this year
- Binance targeted in coup attempt: Report points to security weaknesses
- Sweden drops in climate ranking – new record low