Το πείραμα σε Γυμνάσιο του Μπρονξ για τις αδυναμίες του «ChatGPT»
Πρωτοποριακή μέθοδο διδασκαλίας έχει επιλέξει καθηγήτρια μέσης εκπαίδευσης πληροφορικής σε πρότυπο γυμνάσιο θηλέων του Μπρονξ της Νέας Υόρκης, ζητώντας από τις μαθήτριές της να εξετάσουν τις αδυναμίες των συστημάτων τεχνητής νοημοσύνης. Στο πείραμά της η καθηγήτρια Μαρίζα Σούμαν επέτρεψε σε εφαρμογή τεχνητής νοημοσύνης, το τσατμπότ ChatGPT, σχεδιασμένο για να προσφέρει απαντήσεις σε ερωτήσεις χρηστών, να σχεδιάσει το μάθημα χωρίς ανθρώπινη παρέμβαση. Ο αλγόριθμος του ChatGPT θα αποφάσιζε την ύλη της ημέρας και θα δημιουργούσε σχέδιο μαθήματος με θέμα τη φορητότητα στην τεχνολογία.
«Δεν με νοιάζει αν δεν μάθετε τίποτα σήμερα για τα τεχνολογικά μέσα που φοριούνται (wearable technology). Θέλω να αξιολογήσουμε το ChatGPT. Στόχος είναι να αποφασίσετε αν το μάθημα ήταν αποτελεσματικό ή όχι», είπε η κ. Σούμαν. Σε όλες τις ΗΠΑ, σχολεία και πανεπιστήμια προσπαθούν να διαχειρισθούν το φαινόμενο των «τσατμπότ», τις εφαρμογές τεχνητής νοημοσύνης, ικανές για αυτόνομη δημιουργία κειμένων και εικόνων που μοιάζουν σαν να έχουν γίνει από ανθρώπινο χέρι.
Η διεύθυνση δευτεροβάθμιας εκπαίδευσης της Νέας Υόρκης, η μεγαλύτερη στις ΗΠΑ με 900.000 μαθητές, εκπαιδεύει καθηγητές πληροφορικής για να βοηθούν τους μαθητές να αναγνωρίζουν τις προκαταλήψεις της τεχνητής νοημοσύνης και τους κινδύνους που αυτές παρουσιάζουν. Ενα από τα μαθήματα περιλαμβάνει συζήτηση για τις αστοχίες αλγορίθμων αναγνώρισης προσώπου, οι οποίοι είναι πολύ πιο ακριβείς στην αναγνώριση προσώπων λευκών από ό,τι μαύρων.
Πολλά σχολεία διδάσκουν πως ισχυρά συστήματα τεχνητής νοημοσύνης είναι ικανά να παράγουν ψευδείς ειδήσεις, όπως ρεαλιστικά βίντεο, με γνωστά πολιτικά πρόσωπα να κάνουν δηλώσεις τις οποίες ουδέποτε έκαναν. Η κατανόηση των ικανοτήτων τέτοιων αλγορίθμων είναι αναγκαία για τους ενεργούς πολίτες του μέλλοντος, επισημαίνουν οι εμπλεκόμενοι εκπαιδευτικοί. «Είναι κρίσιμο οι μαθητές να καταλαβαίνουν τη λειτουργία των συστημάτων αυτών, καθώς οι αλγόριθμοι αυτοί μαθαίνουν από την ψηφιακή συμπεριφορά των νέων. Πολλές αποφάσεις λαμβάνονται από την τεχνητή νοημοσύνη για λογαριασμό των νέων, χωρίς οι ίδιοι να το γνωρίζουν», λέει η ερευνητής του ΜΙΤ, Κέιτ Μορ.
Εκπαιδευτικοί ενθαρρύνουν τους μαθητές τους να αμφισβητούν την αυθεντία των αλγορίθμων.
Σε ένα από τα μαθήματα της κ. Σούμαν, οι μαθήτριες καλούνται να διαπιστώσουν πειραματικά πώς δημοφιλείς αλγόριθμοι –σχεδιασμένοι συχνά από λευκούς ή Ασιάτες άνδρες– έχουν δυσκολία να αναγνωρίσουν πρόσωπα Αφροαμερικανών. Η δυσλειτουργία αυτή έχει οδηγήσει στη σύλληψη πολλών αθώων μαύρων κατοίκων του Μπρονξ.
Στο πείραμα της κ. Σούμαν, ο αλγόριθμος αναγνώρισης προσώπου της Amazon αποφάνθηκε με σιγουριά 76,5% ότι η Οπρα Γουίνφρεϊ ήταν άνδρας. Το αντίστοιχο σύστημα της Microsoft αποφάσισε ότι η Μισέλ Ομπάμα ήταν «νεαρός Αφροαμερικανός που φοράει μαύρη μπλούζα», ενώ το σύστημα της IBM ενημέρωσε τους χρήστες –με βεβαιότητα 89%– ότι φωτογραφία της τενίστριας Σερίνα Ουίλιαμς απεικόνιζε άνδρα.
Απλή παρουσίαση
Το μάθημα που επινόησε και σχεδίασε το τσατμπότ ChatGPT με θέμα τη φορητή τεχνολογία, όπως τα ψηφιακά συνδεδεμένα ρολόγια χειρός smartwatches, ήταν εντυπωσιακά λεπτομερές και σχολαστικό, με εναρκτήρια συζήτηση, ανάγνωση πηγών για τη φορητή τεχνολογία, ασκήσεις και επίλογο. Η κ. Σούμαν ζήτησε από τις μαθήτριές της να ακολουθήσουν το πρόγραμμα του ChatGPT για 20 λεπτά, σαν να επρόκειτο για πραγματική διδακτική ώρα.
Στο τέλος του μαθήματος, τα κορίτσια στέναζαν από πλήξη και σχολίαζαν ότι το μάθημα του αλγορίθμου ήταν απλοϊκό, επαναληπτικό και θύμιζε παρουσίαση διαφημιστικής εταιρείας. Η τάξη κατέληξε ομόφωνα ότι το μάθημα της κ. Σούμαν είναι κλάσεις ανώτερο από αυτό του τσατμπότ. «Πιστεύετε ότι οι καθηγητές σας πρέπει να χρησιμοποιούν ChatGPT;» ρώτησε η κ. Σούμαν. Ολες οι μαθήτριες απάντησαν με ένα ζωηρό «όχι».
