Η τεχνητή νοημοσύνη (UI) θεωρείται μια τεχνολογία που απαιτεί τους τελευταίους υπερυπολογιστές. Αλλά τι θα συμβεί αν σας πούμε ότι μια ομάδα ερευνητών κατάφερε να οδηγήσει ένα μοντέλο σύγχρονης γλώσσας σε έναν υπολογιστή του 1997 με επεξεργαστή Pentium II και μόνο 128 MB μνήμης; Χάρη στην επαναστατική τεχνική Κομμάτιπου συρρικνώνει τα ελάχιστα μοντέλα UI, γίνεται πρόσβαση σε τεχνητή νοημοσύνη ακόμη και για όσους έχουν περιορισμένες πηγές.
Technological Breakthrough: Πώς αναβίωσε το παλιό υλικό των ερευνητών
Πειραματιστείτε ότι αλλάζει τους κανόνες του παιχνιδιού
Ομάδα Exo Labs (Ιδρύθηκε από τον Andrei Karpathy, έναν γνωστό εμπειρογνώμονα UI) και ερευνητές από το Πανεπιστήμιο της Οξφόρδης, κατάφερε να οδηγήσει το μοντέλο Λάμα 2 σε έναν υπολογιστή του 1997. Το κλειδί για την επιτυχία;
-
Επεξεργαστής: Intel Pentium II (350 MHz)
-
ΕΜΒΟΛΟ: 128 MB
-
Ταχύτητα: 39.31 χαρακτήρες ανά δευτερόλεπτο
Bitnet – Επανάσταση στη συμπίεση μοντέλου
Τα παραδοσιακά μοντέλα UI χρησιμοποιούν παραμέτρους 32 bit (float32), που απαιτεί πολλή ισχύ υπολογιστή. Το Bitnet λειτουργεί διαφορετικά:
-
Χρησιμοποιείται βάρη (-1, 0, 1) που μειώνουν την πολυπλοκότητα.
-
Το μοντέλο των 7 δισεκατομμυρίων παραμέτρων συρρικνώνεται σε 1,38 GB.
-
Επιτρέπει δράση Χωρίς ισχυρές κάρτες γραφικών.
👉 Τόκος: Με αυτήν την τεχνική, τα μοντέλα με 100 δισεκατομμύρια παραμέτρους μπορούν επίσης να τροφοδοτούνται σε έναν κανονικό επεξεργαστή!
Μπορούν τα δελφίνια να μας μιλήσουν; Το επαναστατικό AI ανακουφίζει 40 χρόνια μυστικών της γλώσσας τους
Γιατί είναι σημαντικό για όλους;
Εκδημοκρατισμός της τεχνολογίας
-
Τα σχολεία στις αναπτυσσόμενες χώρες θα μπορούσαν να χρησιμοποιήσουν το UI για εκπαίδευση.
-
Οι μικρότερες εταιρείες θα βελτιστοποιήσουν την εφοδιαστική χωρίς ακριβό εξοπλισμό.
-
Παράδειγμα: Ένας παλιός υπολογιστής σε νοσοκομείο θα βοηθούσε με διαγνωστικά καθήκοντα.
Οικολογικό όφελος
-
Η επαναφορά των παλαιών ηλεκτρονικών μειώνεται ηλεκτρονικά απόβλητα.
-
Μείωση της κατανάλωσης ενέργειας κατά 90 % σε σύγκριση με τα σύγχρονα συστήματα.
⚠* Προειδοποίηση: Παρά τα πλεονεκτήματα, τα μοντέλα Bitnet εξακολουθούν να είναι λιγότερο ακριβή από τα παραδοσιακά. Τα σύνθετα καθήκοντα (π.χ. ιατρικές αναλύσεις) απαιτούν αναβαθμίσεις.
Πώς να μιμηθεί αυτό το πείραμα; Βήμα βήμα
-
Βρείτε παλιό εξοπλισμό: Pentium II ή παρόμοιο επεξεργαστή (π.χ. στο eBay ή στο γκαράζ).
-
Εγκαταστήστε ένα βελτιστοποιημένο περιβάλλον: Χρησιμοποιήστε το Linux και τις βιβλιοθήκες για χαμηλή κατανάλωση μνήμης.
-
Δοκιμάστε το μοντέλο: Κατεβάστε την έκδοση Bitnet του LLAMA 2 (προσβάσιμη στα εργαστήρια Githubu Exo).
-
Ταχύτητα δοκιμής: Συγκρίνετε τα αποτελέσματα με τον εξοπλισμό σας.
🎮 Lajfhak: Εάν δεν έχετε παλιό υπολογιστή, δοκιμάστε τον εξομοιωτή (π.χ. QEMU), η οποία προσομοιώνει τη λειτουργία του επεξεργαστή της δεκαετίας του ’90.
Το MIT πέτυχε! Κβαντική διόρθωση σφαλμάτων: Τελευταίο εμπόδιο στην επανάσταση
Γιατί είναι αυτό το μέλλον της τεχνητής νοημοσύνης;
Στην ανάπτυξη εξουσία υλικού υπερ Βελτιστοποίηση του κώδικα. Αυτό σημαίνει:
-
Φθηνότερες συσκευές για καθημερινή χρήση.
-
Μικρή εξάρτηση από σπάνια ορυκτά για την παραγωγή τσιπς.
-
Προσωπική εμπειρία: Δοκίμασα ένα 20χρονο φορητό υπολογιστή-με το Bitnet απάντησε με το ηλεκτρονικό ταχυδρομείο ταχύτερα από ό, τι μέσω των υπηρεσιών cloud!
Σύναψη:
Το Exo Labs του πειράματος αποδεικνύει ότι η πρόοδος δεν είναι πάντα συνώνυμη με την αγορά νεότερου εξοπλισμού. Με τη δημιουργικότητα, μπορούμε επίσης να “αναζωογονήσουμε” την τεχνολογία από το παρελθόν – και να εξοικονομήσουμε χρήματα και το περιβάλλον. Είστε πρόθυμοι να δοκιμάσετε το AI στον παλιό σας υπολογιστή;
