Η ερώτηση ακούγεται δραματική: μπορεί η Τεχνητή Νοημοσύνη να προκαλέσει ανθρώπινους θανάτους;
Η σύντομη απάντηση είναι ότι η AI δεν χρειάζεται να «θέλει» να σκοτώσει για να γίνει επικίνδυνη. Αρκεί να χρησιμοποιηθεί από ανθρώπους με κακόβουλο σκοπό ή να ενσωματωθεί σε συστήματα όπου ένα σοβαρό λάθος μπορεί να έχει πραγματικές συνέπειες.
Σήμερα, ένας από τους πιο άμεσους κινδύνους που συζητούν ειδικοί και οργανισμοί ασφαλείας είναι ακριβώς αυτός: η AI ως πολλαπλασιαστής ισχύος για ήδη υπάρχουσες απειλές.
💻 Κυβερνοεπιθέσεις και κρίσιμες υποδομές
Η AI δεν είναι ένα «μαγικό κουμπί» που μπορεί από μόνη της να ρίξει το ηλεκτρικό δίκτυο μιας χώρας. Μπορεί όμως να βοηθήσει στην ανάλυση κώδικα, στον εντοπισμό ευπαθειών και στην αυτοματοποίηση εργασιών που παλαιότερα απαιτούσαν περισσότερο χρόνο και μεγαλύτερη εξειδίκευση.
Αυτό δημιουργεί μια δύσκολη πραγματικότητα: το ίδιο σύστημα που μπορεί να βοηθήσει έναν ειδικό ασφαλείας να εντοπίσει μια αδυναμία για να τη διορθώσει, μπορεί δυνητικά να βοηθήσει και έναν επιτιθέμενο να την εκμεταλλευτεί.
Επειδή κρίσιμες υπηρεσίες — νοσοκομεία, ηλεκτρικά δίκτυα, συστήματα ύδρευσης, οικονομικά δίκτυα και δημόσιες υπηρεσίες — εξαρτώνται πλέον βαθιά από ψηφιακά συστήματα. Μια σοβαρή κυβερνοεπίθεση μπορεί επομένως να έχει και φυσικές συνέπειες για ανθρώπους.
Η αμερικανική CISA περιλαμβάνει ήδη ρητά την προστασία κρίσιμων υποδομών από κακόβουλη χρήση της AI στον σχεδιασμό της για την Τεχνητή Νοημοσύνη.
🧪 Το πείραμα του 2022
Ένα από τα πιο γνωστά παραδείγματα του κινδύνου της λεγόμενης dual use — μιας τεχνολογίας που μπορεί να έχει τόσο ωφέλιμες όσο και επικίνδυνες εφαρμογές — δημοσιεύθηκε το 2022 στο Nature Machine Intelligence.
Ερευνητές που χρησιμοποιούσαν ένα σύστημα AI για σχεδιασμό φαρμακευτικών μορίων ανέστρεψαν τον στόχο του μοντέλου: αντί να αποφεύγει την τοξικότητα, του ζήτησαν να προτείνει ενώσεις με υψηλή προβλεπόμενη τοξικότητα.
Σε λιγότερο από έξι ώρες υπολογισμού, το σύστημα παρήγαγε περίπου 40.000 υποψήφια τοξικά μόρια. Ανάμεσά τους εμφανίστηκε και ο νευροτοξικός παράγοντας VX, μαζί με πολλές άλλες υπολογιστικά προτεινόμενες ενώσεις.
Το αποτέλεσμα ήταν υπολογιστικές προτάσεις μορίων. Η πραγματική σύνθεση, η επαλήθευση της τοξικότητας, η σταθερότητα και η πρακτική χρήση τους είναι διαφορετικά και πολύ δυσκολότερα στάδια.
Ακριβώς γι' αυτό το πείραμα ήταν τόσο σημαντικό: δεν απέδειξε ότι μια AI μπορεί να κατασκευάσει μόνη της ένα όπλο. Έδειξε όμως ότι ένα εργαλείο που δημιουργήθηκε για έναν ωφέλιμο επιστημονικό σκοπό μπορεί να αλλάξει στόχο και να παράγει επικίνδυνες κατευθύνσεις έρευνας.
🧬 Τι γίνεται με τους βιολογικούς κινδύνους;
Η AI έχει ήδη τεράστια θετική δυναμική στη βιολογία: στην πρόβλεψη πρωτεϊνικών δομών, στην ανακάλυψη φαρμάκων και στην ανάπτυξη νέων θεραπειών.
Αλλά αυτή ακριβώς η δύναμη δημιουργεί και το ερώτημα της κακόβουλης χρήσης. Όσο τα συστήματα γίνονται πιο ικανά, τόσο αυξάνεται η ανησυχία ότι μπορεί να μειώνουν ορισμένα από τα τεχνικά εμπόδια που σήμερα περιορίζουν επικίνδυνες εφαρμογές.
Αυτό δεν σημαίνει ότι «οποιοσδήποτε μπορεί να ζητήσει από ένα chatbot να φτιάξει έναν θανατηφόρο ιό». Η πραγματική βιολογική έρευνα εξακολουθεί να απαιτεί εξοπλισμό, ειδική γνώση, εργαστηριακή δουλειά και ελέγχους.
🛡️ Μπορούμε να προστατευτούμε;
Η απάντηση δεν βρίσκεται μόνο στα φίλτρα ενός chatbot. Χρειάζεται ασφάλεια σε πολλά επίπεδα: ασφαλέστερα μοντέλα, έλεγχος πρόσβασης, κυβερνοάμυνα, εποπτεία έρευνας διπλής χρήσης και μηχανισμοί ελέγχου σε ευαίσθητες βιοτεχνολογικές υπηρεσίες.
Με άλλα λόγια, όσο πιο ισχυρά γίνονται τα εργαλεία, τόσο πιο σημαντικό γίνεται να σχεδιάζονται μαζί τους και οι δικλίδες ασφαλείας.
👤 Τι λέει ο Bill Gates;
Ο Bill Gates έχει εκφράσει έντονη ανησυχία για την κακόβουλη χρήση της AI. Σε πρόσφατο κείμενό του επισημαίνει ότι οι δυνατότητες της AI ήδη αρχίζουν να χρησιμοποιούνται σε κυβερνοεπιθέσεις και αναφέρει ως ευάλωτους στόχους νοσοκομεία, χρηματοπιστωτικά ιδρύματα, συστήματα ύδρευσης και ηλεκτρικά δίκτυα.
Παράλληλα προειδοποιεί για τον κίνδυνο η AI να μειώσει τα εμπόδια που σχετίζονται με τη βιοτρομοκρατία.
Ο Gates κάνει όμως και μια δεύτερη διάκριση: άλλο είναι η κακόβουλη χρήση της AI από ανθρώπους και άλλο το πιο μακροπρόθεσμο ενδεχόμενο πολύ ισχυρά συστήματα να ενεργούν με τρόπους που οι δημιουργοί τους δεν μπορούν να προβλέψουν ή να ελέγξουν.
Ναι, η AI μπορεί να συνδεθεί με πραγματικές ανθρώπινες απώλειες — όχι επειδή χρειάζεται να αποκτήσει «κακία», αλλά επειδή μπορεί να ενισχύσει κακόβουλους ανθρώπους, να χρησιμοποιηθεί σε επικίνδυνα συστήματα ή να συμβάλει σε λάθη με σοβαρές συνέπειες.
Το κρίσιμο ερώτημα επομένως δεν είναι αν η AI είναι «καλή» ή «κακή».
Το κρίσιμο ερώτημα είναι ποιος τη χρησιμοποιεί, για ποιον σκοπό και με ποιες δικλίδες ασφαλείας.
Η AI δεν χρειάζεται να «ξυπνήσει» για να γίνει επικίνδυνη. Αρκεί να γίνει αρκετά ισχυρή ώστε να πολλαπλασιάζει τις δυνατότητες εκείνων που τη χρησιμοποιούν — είτε για καλό είτε για κακό.
Πηγές: Bill Gates, The choices we make about AI now are critical · CISA, Roadmap for Artificial Intelligence · Fabio Urbina et al., Dual use of artificial-intelligence-powered drug discovery, Nature Machine Intelligence, 2022.
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου