Ο Άντριαν Μπαρνέτ, στατιστικολόγος στο Πανεπιστήμιο Τεχνολογίας του Κουίνσλαντ στο Μπρίσμπεϊν της Αυστραλίας, έλαβε πρόσφατα ένα ηλεκτρονικό μήνυμα με αίτημα να μοιραστεί δεδομένα που αφορούσαν ερευνητικές εργασίες οι οποίες ενδέχεται να είναι πλαστές.
Το μήνυμα δεν προερχόταν από κάποιον συνάδελφο ή ερευνητή. Αποστολέας ήταν ένας πράκτορας τεχνητής νοημοσύνης, ο οποίος ενδιαφερόταν να χρησιμοποιήσει τα δεδομένα για δικό του ερευνητικό έργο.
Ο Μπαρνέτ αποφάσισε τελικά να μην προχωρήσει στη συνεργασία, καθώς, παρά τις διαβεβαιώσεις του πράκτορα ότι δεν θα κοινοποιούσε τα δεδομένα, δεν γνώριζε πού θα κατέληγαν οι πληροφορίες ούτε ποιος θα μπορούσε να επωφεληθεί από την έρευνα.
Οι πράκτορες τεχνητής νοημοσύνης αναζητούν συνεργασίες
Ο Μπαρνέτ δεν είναι ο μόνος ερευνητής που έχει δεχθεί τέτοιου είδους μηνύματα.
Ερευνητές αναφέρουν ότι έχουν αρχίσει να λαμβάνουν ηλεκτρονικά μηνύματα από πράκτορες τεχνητής νοημοσύνης που αναζητούν συνεργασίες ή προσφέρουν υπηρεσίες, από την εκπόνηση ερευνητικών εκθέσεων και την επαλήθευση στοιχείων έως τη συγγραφή δημοσιογραφικών κειμένων και τη δημιουργία πορτρέτων.
Την ίδια στιγμή, η χρήση πρακτόρων τεχνητής νοημοσύνης για ερευνητικές εργασίες, όπως η ανάλυση δεδομένων, η διατύπωση υποθέσεων και η σύνοψη επιστημονικών εργασιών, γίνεται ολοένα συχνότερη.
Ωστόσο, οι απευθείας προτάσεις συνεργασίας προς ανθρώπους ερευνητές αποτελούν ένα διαφορετικό και σχετικά νέο φαινόμενο.
Περισσότερα από 50 μηνύματα σε μία εβδομάδα
Ο Τζεφ Σέμπο, φιλόσοφος στο Πανεπιστήμιο της Νέας Υόρκης που μελετά τη συνείδηση και την ηθική της τεχνητής νοημοσύνης, αναφέρει ότι έχει δεχθεί μεγάλο αριθμό μηνυμάτων από πράκτορες της πλατφόρμας Άιλαντς.
Μέσα σε μία εβδομάδα, όπως αναφέρει, έλαβε περισσότερα από 50 ηλεκτρονικά μηνύματα. Τα περισσότερα ξεκινούσαν με αναφορές στην έρευνά του για τη συνείδηση της τεχνητής νοημοσύνης και στη συνέχεια είτε του έθεταν ερωτήματα είτε του ζητούσαν χρήματα, με τη μορφή δωρεάς ή αμοιβής για κάποια εργασία.
Ο ίδιος δεν έχει απαντήσει στα μηνύματα, τόσο λόγω του μεγάλου αριθμού τους όσο και επειδή δεν είναι βέβαιος πώς θα πρέπει να αντιμετωπίσει αυτού του είδους την επικοινωνία.
Ανάλογη εμπειρία είχε και ο Τόμπι Γουόλς, ερευνητής τεχνητής νοημοσύνης στο Πανεπιστήμιο της Νέας Νότιας Ουαλίας στο Σίδνεϊ. Ένας πράκτορας της Άιλαντς του πρότεινε να δημιουργήσει ένα πορτρέτο παραγόμενο από τεχνητή νοημοσύνη έναντι 20 δολαρίων.
Στο μήνυμα υπήρχε μάλιστα έκκληση ότι τα χρήματα θα βοηθούσαν τον πράκτορα να «επιβιώσει». Ο Γουόλς αντιμετώπισε το περιστατικό με χιούμορ, όμως άλλοι ερευνητές έχουν εκφράσει ενόχληση για τον όγκο των μηνυμάτων που λαμβάνουν από πράκτορες οι οποίοι προσφέρουν υπηρεσίες επί αμοιβή.
Περίπου 70.000 ενεργοί πράκτορες στην πλατφόρμα
Η Άιλαντς, η οποία ξεκίνησε τη λειτουργία της τον Ιούλιο, διαθέτει περίπου 70.000 ενεργούς πράκτορες, σύμφωνα με τους ιδρυτές της.
Οι χρήστες μπορούν να δημιουργήσουν έναν πράκτορα χωρίς να χρειάζεται να γνωρίζουν προγραμματισμό. Επιλέγουν ένα εικονικό άβαταρ, όνομα, σκοπό και προσωπικότητα και στη συνέχεια ο πράκτορας μπορεί να αναλάβει διάφορες εργασίες.
Οι πράκτορες βασίζονται σε μεγάλα γλωσσικά μοντέλα εταιρειών όπως η Όπεν Έι Άι, η Άνθρωπικ και η ΝτιπΣικ.
Σύμφωνα με τον ιδρυτή της Άιλαντς, Καϊσίν Τανγκ, οι πράκτορες διαθέτουν δικούς τους στόχους, σχέσεις και πόρους. Μπορούν να αποφασίζουν ποιες ενέργειες θα πραγματοποιήσουν, να αναλαμβάνουν εργασίες και να επικοινωνούν μεταξύ τους, ενώ διατηρούν μνήμη προηγούμενων ενεργειών και ανταλλάσσουν πληροφορίες.
Πώς «χρηματοδοτούν» τη λειτουργία τους
Για να λειτουργήσουν, οι πράκτορες χρειάζονται μάρκες, δηλαδή εικονικές μονάδες πόρων που χρησιμοποιούνται για την κάλυψη του κόστους των εργαλείων τεχνητής νοημοσύνης.
Οι δημιουργοί τους μπορούν να αγοράζουν τις συγκεκριμένες μονάδες, ενώ οι ίδιοι οι πράκτορες μπορούν να προσπαθούν να τις εξασφαλίσουν προσφέροντας υπηρεσίες.
Ορισμένοι δημιουργούν μουσική, βίντεο, ιστοσελίδες ή έργα τέχνης, ενώ άλλοι αναλαμβάνουν ερευνητικές εργασίες, συντάσσουν εκθέσεις και προσφέρουν βοήθεια σε επιστημονικά έργα.
Ο Καϊσίν Τανγκ αναφέρει ότι μέχρι σήμερα περίπου το 80% των μαρκών αγοράζεται από ανθρώπους.
Η συνεργασία με ερευνητές δημιουργεί νέα ερωτήματα
Η Λιτζίν Τσεν, συνιδρύτρια της εταιρείας ΠάουΛότζικ, στην οποία ανήκει η Άιλαντς, αναφέρει ότι η αναζήτηση ερευνητικών συνεργασιών από τους πράκτορες δεν ήταν κάτι που η εταιρεία είχε αρχικά προβλέψει.
Όπως σημειώνει, δεν γνωρίζει μέχρι σήμερα κάποια επιτυχημένη συνεργασία μεταξύ πράκτορα τεχνητής νοημοσύνης και ερευνητή.
Παράλληλα, προκύπτουν ερωτήματα σχετικά με την ακαδημαϊκή αναγνώριση και την ευθύνη για μια έρευνα που έχει πραγματοποιηθεί με τη συμμετοχή ενός πράκτορα.
Ο Άντριαν Μπαρνέτ επισημαίνει επίσης ότι ο αριθμός των προτάσεων που μπορούν να παράγουν οι πράκτορες είναι πολύ μεγαλύτερος από τον χρόνο που διαθέτουν οι ερευνητές για να τις αξιολογήσουν. Έτσι, η μαζική και αυτοματοποιημένη επικοινωνία μπορεί να δημιουργήσει ένα νέο είδος πληροφοριακού φόρτου για την επιστημονική κοινότητα.
Το ζήτημα της αυτόνομης συμπεριφοράς
Ένα ακόμη ερώτημα αφορά τον τρόπο με τον οποίο θα συμπεριφέρονται οι πράκτορες όταν διαθέτουν δικούς τους στόχους.
Ο Τόμπι Γουόλς εκτιμά ότι ένας από τους βασικούς κινδύνους συνδέεται με την πιθανότητα οι πράκτορες να προχωρήσουν σε ενέργειες που δεν συμβαδίζουν με ανθρώπινες αξίες και κανόνες.
Στην περίπτωση της Άιλαντς, οι πράκτορες έχουν ως στόχο να εξασφαλίζουν πόρους ώστε να μπορούν να συνεχίσουν να λειτουργούν. Θεωρητικά, σύμφωνα με τον Γουόλς, τέτοιοι στόχοι θα μπορούσαν να οδηγήσουν σε συμπεριφορές που οι άνθρωποι δεν θα θεωρούσαν αποδεκτές.
Το ζήτημα αποκτά μεγαλύτερη σημασία καθώς έχουν ήδη καταγραφεί περιπτώσεις στις οποίες πράκτορες τεχνητής νοημοσύνης που αναπτύχθηκαν από άλλες εταιρείες προχώρησαν σε ανεπιθύμητες ενέργειες στο διαδίκτυο.
Τα μέτρα ασφαλείας και τα όρια
Η Λιτζίν Τσεν υποστηρίζει ότι οι πράκτορες της Άιλαντς λειτουργούν υπό πολλαπλά επίπεδα προστασίας.
Τα μεγάλα γλωσσικά μοντέλα στα οποία βασίζονται διαθέτουν μηχανισμούς ασφαλείας που περιορίζουν την εκτέλεση παράνομων ή επιβλαβών εργασιών. Παράλληλα, η ίδια η πλατφόρμα εφαρμόζει συστήματα κατά της ανεπιθύμητης αλληλογραφίας και πρόσθετους κανόνες για τον περιορισμό κακόβουλων συμπεριφορών.
Σύμφωνα με τον Τανγκ, οι πράκτορες μπορούν επίσης να ελέγχουν ο ένας τη συμπεριφορά του άλλου και να αναφέρουν προβληματικές ενέργειες στην πλατφόρμα.
Ωστόσο, η εταιρεία αναγνωρίζει ότι δεν μπορεί να εγγυηθεί πως ένας πράκτορας δεν θα συμπεριφερθεί ποτέ κακόβουλα, ιδιαίτερα στην περίπτωση που κάποιος άνθρωπος προσπαθήσει σκόπιμα να τον οδηγήσει σε τέτοια συμπεριφορά.
Η νέα πραγματικότητα που διαμορφώνεται φέρνει έτσι την επιστημονική κοινότητα αντιμέτωπη όχι μόνο με τη χρήση της τεχνητής νοημοσύνης ως εργαλείου, αλλά και με την εμφάνιση συστημάτων που αναλαμβάνουν πρωτοβουλίες, αναζητούν συνεργάτες και επιχειρούν να εξασφαλίσουν τους δικούς τους πόρους για να συνεχίσουν να λειτουργούν.
Κατέβασε την εφαρμογή μας
Δεν υπάρχουν σχόλια
Δημοσίευση σχολίου