Ha esetleg valaha látott AI-modelleket telepítés előtt, találkozhatott ilyesmivel: mistral-7b-instruct-v0.3.Q4_K_M.gguf. A modell neve talán ismerős, a “b” jelentéséről már írtunk is korábban, de mi az a betű-szám kombináció a végén?… Nos ez a kvantálást jelöli. Egy egyszerű, de okos technika, amely lehetővé teszi, hogy egy komoly AI-modell elférjen egy normál irodai számítógépen, anélkül, hogy lényegesen…
Word, PDF, Excel: mi történik valójában a háttérben Lehet, hogy megpróbált már odaadni az AI-nak egy dokumentumot, és felmerült önben: tényleg olvassa? Érti az Excel-táblázatomat? Látja a Word-ben írott szerződésem elrendezését? A rövid válasz: nem, nem közvetlenül. Megérteni, hogy miért, annyit jelent, mint megérteni, hogyan működik valójában a mesterséges intelligencia — és miért végez az…
Mi történik valójában, amikor az AI gondolkodik? Ha számítógép-teljesítményről van szó, általában a processzorra gondolunk: „hány GHz? hány mag?” Ez logikus sok feladatnál — videóvágás, játék, összetett táblázat futtatása… Egy ArkeoAI-hoz hasonló nyelvi modell futtatásánál azonban ez a logika teljesen megfordul. Nem a processzor sebessége dönti el, hogy működik-e a rendszer — hanem az elérhető…
Röviden: az alapegység, amelyet az AI a szöveg olvasásához, megértéséhez és írásához használ. Talán észrevette már, hogy az AI-szolgáltatások „tokenekről” beszélnek: token-limit, token-költség, kontextusablak tokenekben… A szó mindenhol felbukkan, de ritkán magyarázzák el érthetően. Megérteni, mi az a token, annyit jelent, mint megérteni, hogyan érzékeli a szöveget egy nyelvi modell — és miért viselkedik néha…
A nyelvi modellek hallucinációinak megértése Mindenki hallotta a „hallucinációˮ kifejezést a mesterséges intelligenciával kapcsolatban. Egy modell, amely nem létező törvénycikket idéz. Egy asszisztens, amely 107 000 eurós végkielégítést számol ki, miközben a valós összeg 2 625 euró. Egy kitalált joggyakorlati hivatkozás, amelyet ugyanolyan magabiztossággal írtak meg, mint egy valódi legfelsőbb bírósági határozatot. Ez nem egy…
Konkrét esetek, túlzott ígéretek nélkül Egy könyvelő munkaidejének átlagosan 30–40%-át alacsony hozzáadott értékű feladatokra fordítja: dokumentumkutatás, ismétlődő szabályozási ellenőrzések, szabványos válaszok szerkesztése. Az AI nem helyettesíti a szakértelmet — de ennek a tehernek a nagy részét át tudja venni. Azonnali szabályozási kutatás Ahelyett, hogy manuálisan böngészné az Általános Adótörvénykönyvet vagy a hivatalos közlönyöket, a munkatárs…
Nem technológiai probléma Tanulmányok sora igazolja: a vállalati AI-projektek 60–80%-a nem éri el céljait. Mégis miért, mikor a technológia sosem volt ennyire elérhető? Hol a probléma? 1. hiba: azt hinni, hogy az AI mindent megcsinál egyedül Az AI egy eszköz, nem önálló alkalmazott. Felerősíti, amit kap — ha az adatok gyengék, a folyamatok homályosak, vagy…
Egy mindenki által használt, de kevesek által értett kifejezés rövid tisztázása „Offline mesterséges intelligencia”, „helyi AI”, „on-premise modell”… Ezek a kifejezések egyre elterjedtebbek, de konkrét jelentésük sokak számára homályos marad. Íme, mit jelent mindez valójában. Online vs offline: az alapvető különbség Egy online AI-eszköz távoli szervereken működik. Amikor kérdést teszünk fel a ChatGPT-nek vagy egy…
Amit a felhőbe küld, az valójában már nem igazán az öné. Amikor egy ügyvéd, közjegyző vagy könyvelő online AI-eszközt használ, valami olyasmi történik, amiről sokan nem tudnak: a bevitt adatok — kérdések, dokumentumrészletek, ügyfélnevek — külső szervereken haladnak át, amelyek sokszor az Európai Unión kívül találhatók. Mit mond a GDPR? Az Általános Adatvédelmi Rendelet szigorú…
Amikor a méret nem mond el mindent Pontosan micsoda milliárdok? A „B” a „milliárd” szót jelöli — és az adott modell paramétereinek számára utal. Egyszerűsítve: a paraméter egy olyan kapcsolat, amelyet a modell milliárdnyi szövegen alapuló tanulás során sajátított el. Minél több van belőlük, annál több általános tudást „memorizált” potenciálisan a modell. Egy 3B-s modellnek…