Ο καθηγητής Jason Gibson υποστηρίζει σε βίντεο που ανάρτησε στο λογαρισμό του @iamjasongibson στο TikTok ότι 32 από τους 35 φοιτητές του απέτυχαν σε ένα στάδιο της εξεταστικής διαδικασίες, αφού έπεσαν σε μια κρυφή «παγίδα» που είχε σχεδιάσει για να εντοπίσει τη χρήση τεχνητής νοημοσύνης.
Το βίντεο κοινοποιήθηκε στη συνέχεια στην κοινότητα r/Amazing του Reddit, όπου προκάλεσε έντονη συζήτηση για τον τρόπο με τον οποίο οι εκπαιδευτικοί προσπαθούν να προσαρμοστούν στη νέα πραγματικότητα που δημιουργεί η ευρεία χρήση εργαλείων τεχνητής νοημοσύνης. Το βίντεο του καθηγητή από το Alcorn State University έχει συγκεντρώσει περίπου 13.000 θετικές ψήφους.
Η κρυφή οδηγία που δεν έβλεπαν οι φοιτητές
Ο Gibson εξηγεί ότι ενσωμάτωσε σε ένα θέμα τηςεξέτασης μια κρυφή οδηγία, γραμμένη με λευκή γραμματοσειρά, ώστε να μην είναι ορατή στους φοιτητές κατά την ανάγνωση της εκφώνησης. Η οδηγία έδινε στο σύστημα τεχνητής νοημοσύνης την εντολή να συμπεριλάβει τη λέξη «Mαδαγασκάρη» κάπου στην απάντηση, με τρόπο που να μην έχει κανένα νόημα.
ΔΙΑΒΑΣΤΕ ΕΠΙΣΗΣ
Επειδή το κείμενο ήταν γραμμένο με λευκό χρώμα, ένας φοιτητής που διάβαζε κανονικά την εκφώνηση δεν μπορούσε να αντιληφθεί την ύπαρξή του. Αντίθετα, όταν ολόκληρο το κείμενο αντιγραφόταν σε ένα chatbot, η κρυφή οδηγία μπορούσε να εντοπιστεί από το σύστημα και να ακολουθηθεί.
Έτσι, σύμφωνα με τον καθηγητή, όσοι φοιτητές αντέγραψαν την εκφώνηση σε ένα εργαλείο τεχνητής νοημοσύνης και στη συνέχεια υπέβαλαν την απάντηση χωρίς να την ελέγξουν, βρέθηκαν να έχουν χρησιμοποιήσει τη λέξη «Mαδαγασκάρη» μέσα στο κείμενό τους.
«Η Μαδαγασκάρη δεν έχει ουδεμία σχέση με τη Βιομηχανική Επανάσταση»
Η λέξη ήταν ιδιαίτερα εύκολο να εντοπιστεί, καθώς το θέμα της εξέτασης αφορούσε τη Βιομηχανική Επανάσταση. «Πρώτα απ' όλα, η Μαδαγασκάρη δεν έχει καμία σχέση με τη Βιομηχανική Επανάσταση. Ήταν προφανές ότι δεν ξαναδιάβασαν αυτό που απάντησαν», ανέφερε ο Gibson.
Ο καθηγητής υποστήριξε ότι 32 από τους 35 φοιτητές σε δύο τμήματα απέτυχαν σε ένα μέρος της ενδιάμεσης εξέτασης, αποδίδοντας το αποτέλεσμα στις απαντήσεις που είχαν παραχθεί με τη βοήθεια τεχνητής νοημοσύνης. Ωστόσο, ο αριθμός των φοιτητών που «κόπηκαν» στο μάθημα δεν έχει επιβεβαιωθεί ούτε υπάρχει ενημέρωση για το εάν υπήρξαν ενστάσεις ή προσφυγές σχετικά με τους βαθμούς.
Ωστόσο, η συγκεκριμένη πρακτική εφαρμόζεται ολοένα και περισσότερο και είναι γνωστή ως «prompt injection» ή «hidden prompt insertion». Πρόκειται για την ενσωμάτωση αόρατων οδηγιών μέσα σε ένα κείμενο, προκειμένου να διαπιστωθεί εάν τα συστήματα τεχνητής νοημοσύνης επεξεργάζονται περιεχόμενο που δεν είναι ορατό στον άνθρωπο. Παρόμοιες τεχνικές έχουν χρησιμοποιηθεί στο παρελθόν τόσο σε ακαδημαϊκές έρευνες όσο και για τη δοκιμή συστημάτων γραφής με τη βοήθεια τεχνητής νοημοσύνης σύμφωνα με το dailydot.com.
Στο Reddit, πολλοί σχολιαστές υποστήριξαν ότι οι φοιτητές που βασίστηκαν αποκλειστικά στην τεχνητή νοημοσύνη, χωρίς να ελέγξουν την τελική απάντηση πριν την υποβάλουν, θα πρέπει να αναλάβουν την ευθύνη για το αποτέλεσμα.
«Αν είναι τόσο τεμπέληδες ώστε να μην ξαναδιαβάσουν καν το δοκίμιό τους, τους αξίζει η ήττα», έγραψε χαρακτηριστικά ένας χρήστης.
Ένας άλλος σχολιαστής σχολίασε με τη σειρά του: «Είναι εκπληκτικό πόσο επιπόλαια χρησιμοποιούν κάποιοι την τεχνητή νοημοσύνη… Πραγματικά στέλνουν ό,τι τους δίνει η AI στον έξω κόσμο, ακριβώς όπως είναι, χωρίς καν να το ελέγξουν».
Άλλοι χρήστες επαίνεσαν την ευρηματικότητα του καθηγητή στον εντοπισμό της υπερβολικής εξάρτησης από την τεχνητή νοημοσύνη. Ωστόσο, ορισμένοι εξέφρασαν προβληματισμό για το ενδεχόμενο η χρήση κρυφού κειμένου να οδηγήσει σε άδικη τιμωρία φοιτητών που απλώς αντέγραψαν την εκφώνηση σε ένα άλλο έγγραφο, προκειμένου να εργαστούν εκτός διαδικτύου και να συντάξουν οι ίδιοι την απάντησή τους.
Ένας σχολιαστής υποστήριξε ότι ένας φοιτητής θα μπορούσε εύλογα να ισχυριστεί πως ακολούθησε όλες τις οδηγίες που ήταν ορατές σε εκείνον, αφού πρώτα αντέγραψε το κείμενο σε ένα πρόγραμμα επεξεργασίας κειμένου. Σε μια τέτοια περίπτωση, σύμφωνα με τον ίδιο, θα μπορούσε να δικαιολογηθεί η επανάληψη της εξέτασης.
{https://publish.reddit.com/embed?url=https://www.reddit.com/r/Amazing/comments/1v4iler/3235_students_failed_this_professors_midterm/}
