A kép szerzője
 

Érezted már úgy, hogy túl sok eszköz van az MLOp-okhoz? Van egy eszköz a kísérletek nyomon követésére, az adatok és a modell verziószámítására, a munkafolyamatok összehangolására, a funkciók tárolására, a modell tesztelésére, a telepítésre és a kiszolgálásra, a figyelésre, a futásidejű motorokra, az LLM-keretrendszerekre és még sok másra. Minden eszközkategóriához több lehetőség is tartozik, ami zavarba ejti a vezetőket és a mérnököket, akik egyszerű megoldást szeretnének, olyan egységes eszközt, amely szinte az összes MLOps-feladatot könnyedén végrehajtja. Itt jönnek be a végpontok közötti MLOps platformok. 

Ebben a blogbejegyzésben áttekintjük a legjobb végpontok közötti MLOps platformokat személyes és vállalati projektekhez. Ezek a platformok lehetővé teszik egy automatizált gépi tanulási munkafolyamat létrehozását, amely képes betanítani, nyomon követni, üzembe helyezni és figyelni az éles modelleket. Ezenkívül integrációkat kínálnak különféle eszközökkel és szolgáltatásokkal, amelyeket esetleg már használ, megkönnyítve az átállást ezekre a platformokra.

1. AWS SageMaker

Amazon SageMaker egy meglehetősen népszerű felhőmegoldás a teljes gépi tanulási életciklushoz. Nyomon követheti, betaníthatja, értékelheti, majd üzembe helyezheti a modellt a termelésben. Ezenkívül figyelheti és megtarthatja a modelleket a minőség fenntartása érdekében, optimalizálhatja a számítási erőforrásokat a költségmegtakarítás érdekében, és CI/CD-folyamatokat használhat az MLOps munkafolyamat teljes automatizálására. 

Ha már használja az AWS (Amazon Web Services) felhőt, akkor nem lesz probléma a gépi tanulási projektben való használatával. Az ML-folyamatot más szolgáltatásokkal és eszközökkel is integrálhatja, amelyek az Amazon Cloudhoz tartoznak. 

Az AWS Sagemakerhez hasonlóan kipróbálhatja a Vertex AI-t és az Azure ML-t. Mindegyik hasonló funkciókat és eszközöket kínál egy végponttól végpontig terjedő MLOP-folyamat felépítéséhez, felhőszolgáltatásokkal való integrációval. 

2. Ölelő Arc

Nagy rajongója vagyok a Átölelő arc platform és a csapat nyílt forráskódú eszközöket építenek a gépi tanuláshoz és a nagy nyelvi modellekhez. A platform immár teljes körű, mivel vállalati megoldást kínál több GPU teljesítménymodell-következtetéshez. Nagyon ajánlom azoknak, akik most ismerkednek a számítási felhővel. 

A Hugging Face olyan eszközöket és szolgáltatásokat tartalmaz, amelyek segíthetnek a gépi tanulási modellek összeállításában, betanításában, finomhangolásában, értékelésében és üzembe helyezésében egy egységes rendszer segítségével. Lehetővé teszi a modellek és adatkészletek ingyenes mentését és verziózását is. Megtarthatja privátban, vagy megoszthatja a nyilvánossággal, és hozzájárulhat a nyílt forráskódú fejlesztéshez. 

A Hugging Face megoldásokat kínál webalkalmazások és gépi tanulási bemutatók létrehozására és telepítésére is. Ez a legjobb módja annak, hogy bemutassa másoknak, milyen nagyszerűek a modelljei. 

3. Iguazio MLOps platform

Iguazio MLOps platform a minden az egyben megoldás az MLOps életciklusához. Teljesen automatizált gépi tanulási folyamatot építhet fel adatgyűjtéshez, betanításhoz, nyomon követéshez, telepítéshez és megfigyeléshez. Lényegében egyszerű, így Ön a lenyűgöző modellek építésére és betanítására összpontosíthat, ahelyett, hogy a telepítések és műveletek miatt aggódna. 

Az Iguazio lehetővé teszi mindenféle adatforrásból származó adatok feldolgozását, integrált szolgáltatástárolóval rendelkezik, valamint rendelkezik egy irányítópulttal a modellek és a valós idejű termelés kezelésére és figyelésére. Ezenkívül támogatja az automatikus nyomkövetést, az adatverziókészítést, a CI/CD-t, a folyamatos modellteljesítmény-figyelést és a modelleltolódást csökkentő modelleltolódást.

4. DagsHub

DagsHub a kedvenc platformom. Portfólióprojektjeim elkészítéséhez és bemutatásához használom. Hasonló a GitHubhoz, de adattudósok és gépi tanulási mérnökök számára. 

A DagsHub eszközöket biztosít a kód- és adatverziókészítéshez, a kísérletkövetéshez, a módnyilvántartáshoz, a folyamatos integrációhoz és üzembe helyezéshez (CI/CD) a modelltanításhoz és -telepítéshez, a modellszolgáltatáshoz és még sok máshoz. Ez egy nyílt platform, ami azt jelenti, hogy bárki építhet, hozzájárulhat és tanulhat a projektekből. 

A DagsHub legjobb tulajdonságai a következők:

• Automatikus adatfeljegyzés.
• Modell kiszolgálás.
• ML folyamatábrázolás.
• A Jupyter notebookok, kódok, adatkészletek és képek megkülönböztetése és kommentálása.

Az egyetlen dolog, ami hiányzik belőle, az egy dedikált számítási példány a modellkövetkeztetéshez. 

5. Súlyok és torzítások

Súlyok és torzítások kísérleti nyomkövetési platformként indult, de egy végpontok közötti gépi tanulási platformmá fejlődött. Mostantól kísérleti vizualizációt, hiperparaméter-optimalizálást, modellnyilvántartást, munkafolyamat-automatizálást, munkafolyamat-kezelést, figyelést és kód nélküli ML-alkalmazásfejlesztést biztosít. Ezenkívül LLMOps megoldásokat is tartalmaz, például az LLM-alkalmazások feltárását és hibakeresését, valamint a GenAI-alkalmazás-értékeléseket. 

A Weights & Biases felhőalapú és privát tárhelyszolgáltatással érkezik. A szervert helyben tárolhatja, vagy használhatja a kezelt túlélést. Személyes használatra ingyenes, de a csapat- és vállalati megoldásokért fizetni kell. A nyílt forráskódú központi könyvtárat használhatja a helyi gépen való futtatásához, és élvezheti a magánélet védelmét és az irányítást. 

6. Modelbit

Modelbit egy új, de teljes értékű MLOps platform. Egyszerű módot biztosít a modellek betanítására, üzembe helyezésére, figyelésére és kezelésére. A betanított modellt a Python kóddal vagy a "git push" paranccsal telepítheti. 

A Modelbit a Jupyter Notebook szerelmeseinek és szoftvermérnökeinek egyaránt készült. A képzésen és az üzembe helyezésen kívül a Modelbit lehetővé teszi számunkra, hogy modelleket futtassunk automatikus méretezésű számítástechnikán az Ön által előnyben részesített felhőszolgáltatás vagy a dedikált infrastruktúra használatával. Ez egy igazi MLOps platform, amely lehetővé teszi az éles modell naplózását, figyelését és riasztását. Ezenkívül modellnyilvántartást, automatikus átképzést, modelltesztet, CI/CD-t és munkafolyamat-verziót is tartalmaz. 

7. TrueFoundry

TrueFoundry a gépi tanulási alkalmazások felépítésének és üzembe helyezésének leggyorsabb és legköltséghatékonyabb módja. Bármilyen felhőre telepíthető és helyileg használható. A TrueFoundry több felhőkezelést, automatikus skálázást, modellfigyelést, verzióvezérlést és CI/CD-t is kínál. 

Tanítsa meg a modellt a Jupyter Notebook környezetben, kövesse nyomon a kísérleteket, mentse el a modellt és a metaadatokat a modellnyilvántartás segítségével, és egyetlen kattintással telepítse. 

A TrueFoundry támogatja az LLM-eket is, ahol könnyedén finomhangolhatja a nyílt forráskódú LLM-eket, és az optimalizált infrastruktúra használatával telepítheti őket. Ezenkívül integrálható nyílt forráskódú modellképző eszközökkel, modellkiszolgáló- és tárolási platformokkal, verziókezeléssel, dokkoló-nyilvántartással és még sok mással. 

Záró gondolatok

Az összes korábban említett platform vállalati megoldás. Némelyik korlátozott ingyenes lehetőséget kínál, néhányhoz pedig nyílt forráskódú komponens kapcsolódik. Végül azonban egy felügyelt szolgáltatásra kell váltania, hogy élvezze a teljes funkcionalitású platformot. 

Ha ez a blogbejegyzés népszerűvé válik, bemutatom neked az ingyenes, nyílt forráskódú MLOps-eszközöket, amelyek nagyobb ellenőrzést biztosítanak adataid és erőforrásaid felett.
 
 

Abid Ali Awan (@1abidaliawan) okleveles adattudós szakember, aki szereti a gépi tanulási modellek építését. Jelenleg tartalomkészítéssel foglalkozik, és technikai blogokat ír a gépi tanulásról és az adattudományi technológiákról. Abid mesterdiplomát szerzett technológiamenedzsmentből és bachelor fokozatot távközlési mérnökből. Elképzelése az, hogy egy MI-terméket építsen fel egy gráf neurális hálózat segítségével a mentális betegséggel küzdő diákok számára.

• SEO által támogatott tartalom és PR terjesztés. Erősödjön még ma.
• PlatoData.Network Vertical Generative Ai. Erősítse meg magát. Hozzáférés itt.
• PlatoAiStream. Web3 Intelligence. Felerősített tudás. Hozzáférés itt.
• PlatoESG. Carbon, CleanTech, Energia, Környezet, Nap, Hulladékgazdálkodás. Hozzáférés itt.
• PlatoHealth. Biotechnológiai és klinikai vizsgálatok intelligencia. Hozzáférés itt.
• Forrás: https://www.kdnuggets.com/7-end-to-end-mlops-platforms-you-must-try-in-2024?utm_source=rss&utm_medium=rss&utm_campaign=7-end-to-end-mlops-platforms-you-must-try-in-2024