Λογότυπο Zephyrnet

Ο κώδικας chatbot Grok-1 κυκλοφόρησε στη φύση

Ημερομηνία:

Όπως είχε υποσχεθεί, ο Elon Musk κυκλοφόρησε το μοντέλο πίσω από το xAI chatbot, Grok-1.

Κυκλοφόρησαν υπό την άδεια Apache 2.0, τα βάρη του βασικού μοντέλου και η αρχιτεκτονική δικτύου είναι πλέον διαθέσιμα. Το μοντέλο έχει 314 δισεκατομμύρια παραμέτρους και χρειάζεται υλικό με αρκετή μνήμη GPU για να το τρέξει. Είναι προσαρμοσμένο για εφαρμογές όπως το παράθυρο διαλόγου φυσικής γλώσσας και αντιπροσωπεύει το σημείο ελέγχου πρωτογενούς βασικού μοντέλου από τη φάση προεκπαίδευσης, η οποία ολοκληρώθηκε τον Οκτώβριο του 2023.

Οι επικριτές έχουν επισημάνει σχετικά χαμηλές επιδόσεις στα σημεία αναφοράς. Ενώ ο Grok είναι ένα μεγάλο μοντέλο, δεν τα πάει καλά από ό,τι έχουν δει ορισμένοι μηχανικοί. «Λαμβάνοντας υπόψη πόσο φτωχό είναι σε σύγκριση με άλλα μοντέλα, τονίζει πραγματικά πόσο σημαντικό είναι το fine tuning. Τα μοντέλα με ΠΟΛΥ μικρότερο αριθμό παραμέτρων το ξεπερνούν σε πολλές μετρήσεις», είπε ένας αφίσα στα φόρουμ Hacker News χθες το βράδυ.

Μπορεί να διαπιστώσετε ότι όσο μικρότερο Mistral αποδίδει εξίσου καλά με το Grok-1, για παράδειγμα.

Για να βάλετε το μέγεθός του προοπτική, ακόμη και με 314 δισεκατομμύρια παραμέτρους, εξακολουθεί να έχει κάποια σχέση με το GPT-4 του OpenAI, το οποίο είχε 1.76 τρισεκατομμύρια παραμέτρους τελικά.

Συγκεκριμένα, σε αντίθεση με τα υπάρχοντα LLM, τα οποία εκπαιδεύονται σε δεδομένα με χρονικό σημείο αποκοπής, ο Grok έχει πρόσβαση στο σώμα δεδομένων σε πραγματικό χρόνο των Xeets όλων μέσω του X.com, το οποίο αναμένεται να κάνει μερικά ενδιαφέροντα πειράματα τις επόμενες ημέρες, αν και ως άλλο Ο σχολιαστής σημείωσε: «Τα δεδομένα των tweet στο Twitter είναι από μόνα τους εξαιρετικά ιδιοσυγκρασιακά και σύντομα, κάτι που από μόνο του δεν ευνοεί την εκπαίδευση ενός LLM».

Γκρόκ θα είναι εξοικειωμένοι στους χρήστες της πλατφόρμας social media του Musk, X, και οι συνδρομητές έχουν τη δυνατότητα να κάνουν ερωτήσεις στο chatbot και να λαμβάνουν απαντήσεις. Σύμφωνα με το xAI, ο Γκροκ διαμορφώθηκε σύμφωνα με τον Οδηγό Οτοστόπ στον Γαλαξία. «Σκοπός του είναι να απαντήσει σχεδόν σε οτιδήποτε και, πολύ πιο δύσκολο, να προτείνει ακόμη και ποιες ερωτήσεις να κάνετε».

Εάν ένας χρήστης ξεφυλλίσει ένα αντίγραφο με αυτιά σκύλου Ραδιοφωνικά σενάρια The Hitchhiker's Guide to the Galaxy, ο ακόλουθος ορισμός κρύβεται στο Fit the Tenth: «Ο οδηγός του ωτοστόπ για τον γαλαξία είναι ένας απαραίτητος σύντροφος για όλους εκείνους που θέλουν να δώσουν νόημα στη ζωή σε ένα απείρως περίπλοκο και μπερδεμένο σύμπαν, γιατί αν και δεν μπορεί να ελπίζει ότι θα είναι χρήσιμο ή κατατοπιστικό για όλα τα θέματα, κάνει τον καθησυχαστικό ισχυρισμό ότι όπου είναι ανακριβής, είναι τουλάχιστον οριστικά ανακριβής.

«Σε περίπτωση μεγάλης ασυμφωνίας, η πραγματικότητα είναι πάντα λάθος».

Η κυκλοφορία έρχεται την πρώτη επέτειο από την κυκλοφορία του μοντέλου GPT-4 του OpenAI και η νομική διαμάχη του Μασκ με τους πρώην φίλους του με τεχνητή νοημοσύνη παραμένει στο παρασκήνιο. Στις αρχές αυτού του μήνα, Ο Μασκ μήνυσε το OpenAI, υποστηρίζοντας ότι η εταιρεία ήταν ελάχιστα ανοιχτά, παρά το όνομά της. OpenAI απάντησε με τη δημοσιοποίηση ενός πλήθους ηλεκτρονικών μηνυμάτων, υποστηρίζοντας ότι ο Μασκ γνώριζε πλήρως τα σχέδιά του και ήθελε να ενταχθεί στην Tesla.

Ο Patrik Backman, γενικός συνεργάτης στο OpenOcean, δήλωσε σχετικά με την κυκλοφορία του Grok-1: «Για μια φορά, ο Elon Musk θέτει σε εφαρμογή τις αρχές του. Εάν κάνετε μήνυση στο OpenAI για μετατροπή του σε οργανισμό με γνώμονα το κέρδος, πρέπει να είστε έτοιμοι να εμμείνετε στα ίδια ιδανικά».

Τι δεν έχει που κυκλοφόρησε από το xAI είναι επίσης αξιοσημείωτο. Τα βάρη Grok-1 είναι εκεί έξω, ωστόσο τα δεδομένα που χρησιμοποιούνται για την εκπαίδευση δεν είναι διαθέσιμα με την ίδια άδεια, με αποτέλεσμα ο ειδικός AI Gary Marcus να πείραγμα: "PartlyOpenAI."

Τα εργαλεία δημιουργίας τεχνητής νοημοσύνης ανοιχτής προέλευσης έχουν αποδειχθεί αμφιλεγόμενα. Ορισμένοι προγραμματιστές ανησυχούν ότι η διάθεση της τεχνολογίας ενέχει κίνδυνο κατάχρησης και άλλοι επισημαίνουν τα εγγενή οφέλη της διαφάνειας.

Meta Shared - περίπου – τα μοντέλα της Llama 2 πέρυσι, και άλλες εταιρείες ακολούθησαν το παράδειγμά της. Το OpenAI, από την άλλη πλευρά, σίγουρα όχι.

Ανοίγοντας τα βάρη πίσω από το Grok-1, ο Μασκ προσπαθεί να τοποθετήσει μια σημαία στο αντίθετο στρατόπεδο του ιδιόκτητου κόσμου του OpenAI.

Όσο για την απόλυτη απόδοσή του, όπως ό,τι αγγίζει ο Musk, θα μπορούσε να πάει με κάθε τρόπο. ®

spot_img

Τελευταία Νοημοσύνη

spot_img