Το CCC υποστήριξε τρεις επιστημονικές συνεδρίες στο φετινό Ετήσιο Συνέδριο AAAS και σε περίπτωση που δεν μπορέσατε να παρευρεθείτε αυτοπροσώπως, θα ανακεφαλαιώσουμε κάθε συνεδρία. Σήμερα, θα συνοψίσουμε τα κυριότερα σημεία του τμήματος Q&A της συνεδρίας, "Μεγάλα μοντέλα γλωσσών: Χρήσιμοι βοηθοί, ρομαντικοί συνεργάτες ή απατεώνες;” Αυτό το πάνελ, με συντονιστή Δρ Μαρία Γκίνη, Μέλος του Συμβουλίου CCC και καθηγητής Επιστήμης και Μηχανικών Υπολογιστών στο Πανεπιστήμιο της Μινεσότα, παρουσιαζόταν Δρ Ece Kamar, Διευθύνων Σύμβουλος της AI Frontiers στη Microsoft Research, Dr. Hal Daumé III, καθηγητής Επιστήμης Υπολογιστών στο Πανεπιστήμιο του Μέριλαντ και Ο Δρ Τζόναθαν Μέι, καθηγητής Επιστήμης Υπολογιστών στο Ινστιτούτο Πληροφοριακών Επιστημών του Πανεπιστημίου της Νότιας Καλιφόρνια.

Παρακάτω είναι η συναρπαστική περίληψη του τμήματος Q&A του "Μεγάλα μοντέλα γλωσσών: Χρήσιμοι βοηθοί, ρομαντικοί συνεργάτες ή απατεώνες;"πίνακας. Είναι το AI ικανό να αγαπήσει; Τι είδους επιπτώσεις μπορεί να έχουν αυτά τα μοντέλα στα παιδιά; Πώς συσσωρεύονται οι δυνατότητες AI των Ηνωμένων Πολιτειών; Μάθετε παρακάτω:

Ε: Κατά την ανάπτυξη μοντέλων γλώσσας AI σε πολυγλωσσικά και πολυπολιτισμικά πλαίσια, ποιες πρακτικές πρέπει να κάνουμε;

Δρ. Μέι: Κατά την ανάπτυξη της τεχνολογίας και το κατέβασμα των τοίχων, θα πρέπει να διευκολυνθεί για τους ανθρώπους να κάνουν αυτό που θέλουν να κάνουν. Αυτό που θέλουν να κάνουν όλοι, και όχι μόνο εγώ. Ευχαριστώ AI, υπέροχο να εστιάσετε σε μένα, αλλά θα πρέπει να δώσουμε προσοχή στον υπόλοιπο κόσμο γενικά.

Ε: Μερικά από αυτά τα γενικά ζητήματα – δεν είναι η πρώτη φορά που αναφέρονται. Φαίνεται ότι η κοινότητα δεν πρόκειται να φτάσει σε αυτά μόνη της. Αναρωτιέμαι αν όλοι έχετε ιδέες για το πώς να μεταφέρετε αυτές τις συνομιλίες σε δράση;

Δρ. Kamar: Υπάρχουν ρόλοι που μπορούν να παίξουν πολλά διαφορετικά πάρτι. Η αξιολόγηση έχει μεγάλη σημασία για την αντιπροσώπευση διαφορετικών πολιτισμών και πληθυσμών. Όταν τα σύνολα δεδομένων δεν έχουν ποικιλομορφία στην παγκόσμια αναπαράσταση, τα συστήματα που προκύπτουν δεν είναι αντιπροσωπευτικά. Πρέπει να γίνει πολλή δουλειά για τη διαμόρφωση βέλτιστων πρακτικών αξιολόγησης, κανονισμών και μέτρων συμμόρφωσης. Ο Λευκός Οίκος έχει αναλάβει δεσμεύσεις και το Σχέδιο για τη Διακήρυξη των Δικαιωμάτων της ΤΝ ξεκινά. Έχουν εφαρμοστεί διαδικασίες σε όλη τη βιομηχανία, με πολλά μεγάλα μυαλά να συνεργάζονται (όχι τέλεια, αλλά γενικεύοντας σε όλη τη βιομηχανία υπάρχει δυνατότητα). Πραγματοποιούνται συναντήσεις για να επιτευχθεί σύγκλιση για να ξεκινήσουν επί του παρόντος ως πρότυπα. πιθανώς σε μελλοντική ρύθμιση. Πώς κάνουμε αξιολογήσεις, αναλύσεις ασφάλειας κ.λπ.; Καμία από αυτές τις συνομιλίες δεν έχει την ποικιλομορφία που πρέπει να υπάρχει στο δωμάτιο. Σκεφτείτε ποιος πρέπει να είναι στο δωμάτιο όταν λαμβάνονται αποφάσεις.

Δρ Daumé: Νομίζω ότι όταν οι άνθρωποι μιλούν για ρύθμιση, ειδικά στην τεχνητή νοημοσύνη, όλοι σκέφτονται τους τιμωρητικούς κανονισμούς. Αλλά αυτό μπορεί επίσης να αποτελέσει κίνητρο για τη ρύθμιση. Η χρηματοδότηση των φορέων χάραξης πολιτικής και του NSF θα μπορούσε να προωθήσει την ανάπτυξη εργαλείων που θα μας βοηθήσουν ως έθνος και στον κόσμο.

Ε: Η χρηματοδότηση για την τεχνητή νοημοσύνη είναι πολύ πίσω στις ΗΠΑ σε σύγκριση με άλλα μέρη στον κόσμο. Η νέα επένδυση της NSF είναι 20 εκατομμυρίων, κάτι που είναι φιστίκια σε σύγκριση με τις επενδύσεις της βιομηχανίας. Η ομοσπονδιακή κυβέρνηση έχει δημοσιεύσει εκθέσεις από μελέτες εδώ και χρόνια και το συμπέρασμα είναι ότι οι ΗΠΑ πρέπει να προχωρήσουν. Λατρεύω την αναλογία αλλαγής φάσης της Ece. Το θερμοδυναμικό όριο με αριθμούς αυξάνεται. Θέλουμε ανοιχτό AI, ποιος θα το πληρώσει; Δεν υπάρχουν αρκετά χρήματα. Ποιες είναι οι προτάσεις σας; Άνοιγμα AI; Αλλά δεν έχουμε καν δημοσίευση ανοιχτής πρόσβασης. Θα συνιστούσατε στον πρόεδρο να μην έχει νομοθεσία;

Δρ. Μέι: Νομίζω ότι υπάρχουν χρήματα. κάποιος μου παρατήρησε ότι καταφέρατε να πείσετε την κυβέρνηση να περιστρέφει σωματίδια, αλλά δεν μπορέσατε να το εκτρέψετε σε εμάς.

Δρ. Kamar: Ο λόγος που οι εταιρείες που κατασκευάζουν αυτά τα μοντέλα παίρνουν αυτά τα αποτελέσματα είναι μέσω της συγκέντρωσης των πόρων. Υπάρχουν πολλά που παίρνετε από την κλίμακα. Θα πρέπει να σκεφτούμε πώς συγκεντρώνουμε τις επενδύσεις στον ακαδημαϊκό χώρο, ώστε να έχουμε έναν κοινόχρηστο πόρο αντί να έχουμε πολλά διαφορετικά μοντέλα. Βλέπουμε ότι δεν αφορά μόνο την κλίμακα. Δεν είναι κάτι που πρέπει να κάνουμε αυτή τη στιγμή, αλλά η τρέχουσα αρχιτεκτονική δεν είναι εξαιρετική. Η ύπαρξη καλών δυνατοτήτων AI δεν πρέπει να αφορά μόνο περισσότερα χρήματα και περισσότερη δύναμη.

Ε: Μεροληψία υπερεκπροσώπησης στις απαντήσεις. Ξέρουμε από πού προέρχεται; Είμαι μαθηματικός τύπος, και οι σκέψεις μου πάνε στο ότι είναι μια σύνθεση σφαλμάτων στρογγυλοποίησης που προσθέτει προκατάληψη; Αν ήταν ίση εκπροσώπηση, θα φανταζόμουν ότι θα έβγαζε ίση εκπροσώπηση ή θα εξακολουθούσε να υπάρχει;

Δρ. Μέι: Πολλά εξαρτώνται από τις λειτουργίες αιχμής. Το Soft Max είναι σημαντικό μέρος της προπόνησης. Ο υψηλότερος θέλει να είναι #1. Δεν είναι σαν να υπάρχει κάποια τέλεια έξοδος γλώσσας, αλλά θέλουμε να έχουμε κάποια προκατάληψη». Θέλουμε απλώς να ελαχιστοποιήσουμε τις βλάβες στους ανθρώπους και πολλές φορές δεν τις αναγνωρίζουμε. Η ανάπτυξη χωρίς κατανόηση είναι πρόβλημα. 

Δρ Daumé: Μία από τις προκλήσεις με αυτά τα μοντέλα είναι ότι δεν υπάρχουν πλέον στενά μοντέλα τεχνητής νοημοσύνης. Λένε ότι μπορούν να κάνουν τα πάντα, οπότε είναι δύσκολο να δοκιμάσουν τα πάντα.

Ερ.: Αναφέρατε ότι η τεχνητή νοημοσύνη είναι εργαλείο ή αντικατάσταση, προς ποια κατεύθυνση το βλέπετε;

Δρ Daumé: Υπάρχουν περισσότερα χρήματα που πηγαίνουν για αντικατάσταση.

Ε: Ο τίτλος ανέφερε ρομαντική τεχνητή νοημοσύνη. Θέλω να μάθω περισσότερα για αυτό.

Δρ. Μέι: Δεν υπάρχει αρκετή πρόθεση στα μοντέλα ώστε να είναι βιώσιμα ρομαντικά αντικαταστάτες, αλλά είναι εξίσου καλά με τους ανθρώπους στο να αναγνωρίζουν μοτίβα ακόμα και όταν δεν υπάρχουν.

Δρ. Kamar: Σας συμβουλεύω να μην σκέφτεστε την τεχνητή νοημοσύνη όπως είναι αυτή τη στιγμή. Προσπαθήστε να προβάλλετε στο μέλλον – φανταστείτε ότι σε λίγα χρόνια, αυτά τα συστήματα θα εξατομικεύονται για εσάς. Ποια είναι η σχέση που θα έχετε με αυτό το σύστημα;

Δρ Μέι: Αλλά θα σε αγαπήσει;

Δρ. Kamar: Θα σου πει ότι σε αγαπάει.

Δρ Μέι: Αλλά είναι αυτό αρκετό;

Ε: Θέλω να ακούσω συμβουλές για άτομα που δεν ανήκουν στον τομέα της τεχνητής νοημοσύνης. Πώς μπορούμε να ασχοληθούμε με αυτά τα εργαλεία; Τι πρέπει να ξέρουμε;

Δρ. Daumé: Στο Πανεπιστήμιο του Maryland, κάνουμε πολλές συζητήσεις. Είναι εύκολο για μένα να πω ότι η δημοσιογραφία θα είναι διαφορετική σε 5 χρόνια, και άλλοι τομείς επίσης. Είναι άβολο να πούμε ότι ο ρόλος του καθηγητή θα είναι διαφορετικός σε 5 χρόνια, αλλά θα είναι. Έχω συναδέλφους που χρησιμοποιούν διαφορετικά πρόσθετα LLM για προτάσεις και έγγραφα. συμβαίνει ήδη. Έχω τακτικά ερωτήσεις εξετάσεων γραμμένες από εργαλεία, αλλά πρέπει να ελέγξω για ακρίβεια. Το να γράφω ερωτήσεις εξετάσεων δεν με χαροποιεί, οπότε η τεχνητή νοημοσύνη μπορεί να το βγάλει από το πιάτο μου. Στην τριτοβάθμια εκπαίδευση, πρέπει να το σκεφτούμε περισσότερο. Πώς αλλάζει τις δουλειές μας; Γίνονται πολλές συζητήσεις στα πανεπιστήμια, αλλά όχι ένας τόνος συγκέντρωσης πόρων.

Ε: Πόσο ευπρόσδεκτο είναι να κριθεί η τεχνητή νοημοσύνη στο μέλλον κατά την εξέταση στρατιωτικών εφαρμογών; Δεν έγινε καμία αναφορά σε στρατιωτικές εφαρμογές σε αυτή τη συνεδρία – ξέρω ότι αν διάβασα σωστά τους ανθρώπους μέχρι τη μέση, υπάρχει διάσταση απόψεων σχετικά με αυτό το θέμα.

Δρ. Μέι: Ο στρατός είναι ευρύς, μεγάλο μέρος της δουλειάς μου χρηματοδοτείται από το τμήμα άμυνας. Δύσκολο να απαντηθεί συγκεκριμένα, γενικά το υπουργείο Άμυνας (δεν μιλάμε για αυτούς) φαίνεται να δίνει προτεραιότητα στην ασφάλεια και την ασφάλεια των ΗΠΑ και θα συνεχίσει να το κάνει και να αξιοποιεί τα LLM και την τεχνητή νοημοσύνη για να βοηθήσει τις ΗΠΑ να είναι ασφαλείς.

Δρ. Kamar: Πρέπει επίσης να μιλήσουμε για διπλή χρήση. Εάν αναλαμβάνετε στρατιωτική εργασία στη βιολογία ή την ασφάλεια στον κυβερνοχώρο, μπορούμε να πάρουμε τα πολλά υποσχόμενα εργαλεία που έχουμε αυτή τη στιγμή και να τα χρησιμοποιήσουμε επειδή θέλουμε ασφαλή συστήματα και νέα φάρμακα. Αλλά με κάθε καλή χρήση θα έχετε κακή χρήση. Ποιες είναι οι περιπτώσεις χρήσης στις οποίες δεν θέλουμε να χρησιμοποιείται η τεχνητή νοημοσύνη; Σε εφαρμογές ανοιχτού κώδικα, οι άνθρωποι μπορούν να αναπαράγουν αυτά τα μοντέλα. Πώς προστατεύουμε τους ανθρώπους από το να κάνουν κακό σε αυτές τις περιπτώσεις;

Ε: Όταν αλληλεπιδρούν με γλωσσικά μοντέλα, οι ενήλικες καταλαβαίνουν ότι δεν είναι ζωντανός/αυτοσυνειδητοποιημένος, αλλά τι γίνεται για αρκετές γενιές αργότερα. παιδιά που το έχουν από τότε που θυμούνται να κοινωνικοποιούνται; Έχουν έναν δάσκαλο ή δάσκαλο που είναι πλήρως AI. το σύστημα είναι ενσωματωμένο με έναν εκπαιδευτή. Θα μπορούσαν να δημιουργήσουν έναν δεσμό με την οδηγία, να πιστέψουν ότι έχουν μια εξαιρετική σχέση και στη συνέχεια το πρόγραμμα να διαγραφεί. Ποια είναι η παιδική ψυχολογία των κοινωνικών συναισθηματικών δεσμών με μη-προσωπικές οντότητες;

Δρ. Kamar: Χρειαζόμαστε έρευνα, διεπιστημονική έρευνα, και τη χρειαζόμαστε γρήγορα. Σε 5 χρόνια, μπορεί να λάβουμε αυτές τις απαντήσεις, αλλά σε αυτό το διάστημα η τεχνητή νοημοσύνη μπορεί να γίνει μεγάλο μέρος της ζωής του 10χρονου παιδιού μου. Η ερώτησή σας είναι εξαιρετικά σημαντική. Υπάρχει έρευνα που δείχνει ότι ακόμη και αθώα συστήματα μπορεί να έχουν κερκόπορτες. Πρέπει να έχουμε ειδικούς σε θέματα ασφάλειας και ειδικούς στην ανάπτυξη των παιδιών να κάνουν αυτές τις συνομιλίες σήμερα.

Δρ. Daumé: Δεν ξέρω αν κάποιος θυμάται την επιτήρηση Barbie – υπάρχει ένα μεγάλο ζήτημα προστασίας της ιδιωτικής ζωής εδώ. Είναι πιο ενδιαφέρον κοινωνικό θέμα. Οι απαντήσεις ρυθμίστηκαν να είναι υπερβολικά θετικές. Τα παιδιά έλεγαν πράγματα σαν να είμαι τρελός επειδή η Σάλι δεν έπαιζε μαζί μου και δεν δίνει κοινωνικά κατάλληλες προτάσεις. Ανησυχώ για πολύ θετικούς παράγοντες, γιατί η θετικότητα δεν είναι πάντα η σωστή απάντηση.

Σας ευχαριστούμε πολύ που διαβάσατε και μείνετε συντονισμένοι για την ανακεφαλαίωση του τρίτου και τελευταίου πάνελ μας στο AAAS 2024.

• SEO Powered Content & PR Distribution. Ενισχύστε σήμερα.
• PlatoData.Network Vertical Generative Ai. Ενδυναμώστε τον εαυτό σας. Πρόσβαση εδώ.
• PlatoAiStream. Web3 Intelligence. Ενισχύθηκε η γνώση. Πρόσβαση εδώ.
• PlatoESG. Ανθρακας, Cleantech, Ενέργεια, Περιβάλλον, Ηλιακός, Διαχείριση των αποβλήτων. Πρόσβαση εδώ.
• PlatoHealth. Ευφυΐα βιοτεχνολογίας και κλινικών δοκιμών. Πρόσβαση εδώ.
• πηγή: https://feeds.feedblitz.com/~/874544948/0/cccblog~CCC-AAAS-Large-Language-Models-Helpful-Assistants-Romantic-Partners-or-Con-Artists-Part-Two/