AI In Control - Πλαίσιο Διακυβέρνησης Τεχνητής Νοημοσύνης της KPMG

Αποδεδειγμένα οι τεχνολογίες τεχνητής νοημοσύνης (Artificial Intelligence - AI) επιταχύνουν τον ψηφιακό μετασχηματισμό των οργανισμών σήμερα, με περισσότερες από τις αποφάσεις να διαμορφώνονται από αλγόριθμους μηχανικής μάθησης (Machine Learning - ML). Γι’ αυτόν τον λόγο, θεωρείται καθοριστικής σημασίας η υπεύθυνη χρήση αυτών των εργαλείων, ενισχυμένων με τις κατάλληλες διαδικασίες διακυβέρνησης, για την επίτευξη των επιθυμητών αποτελεσμάτων.
Τώρα οι οργανισμοί μπορούν να διαχειριστούν και να αναπτύξουν τις δυνατότητες των τεχνολογιών τεχνητής νοημοσύνης με ακόμη πιο υπεύθυνο και δομημένο τρόπο, καθώς η KPMG εισήγαγε πρόσφατα το AI In Control, ένα νέο πλαίσιο, που απαρτίζεται από ένα σύνολο μεθόδων, εργαλείων και εκτιμήσεων, που υποστηρίζουν τους οργανισμούς να συνειδητοποιήσουν την αξία των τεχνολογιών τεχνητής νοημοσύνης, επιτυγχάνοντας παράλληλα πρωταρχικούς στόχους όπως αλγοριθμική ακεραιότητα, επεξηγησιμότητα και ευελιξία.
Οι πλείστες έρευνες δείχνουν πως τα περισσότερα διοικητικά στελέχη δεν εμπιστεύονται τα analytics στα οποία στηρίζονται για να πάρουν σημαντικές αποφάσεις σε σχέση με ζητήματα των οργανισμών τους. Εντούτοις, οι τάσεις της αγοράς και οι επενδύσεις που εξαγγέλλονται αναδεικνύουν μιαν αυξανόμενη συνειδητοποίηση της ανάγκης για εμπιστοσύνη στις αποφάσεις που προέρχονται από την τεχνητή νοημοσύνη, με το ενδιαφέρον να επικεντρώνεται στους οργανισμούς που αναπτύσσουν αυτές τις τεχνολογίες και την παράλληλη ευθύνη τους για εξασφάλιση ποιότητας και ακεραιότητας. Το γεγονός αυτό πρέπει να αποτελεί προτεραιότητα για τα διοικητικά και εποπτικά συμβούλια αυτών των οργανισμών.
Η προσφορά της υπηρεσίας AI In Control της KPMG χρησιμοποιεί ένα πλαίσιο που βοηθά τους οργανισμούς να διαγράψουν τον κύκλο ζωής της τεχνητής νοημοσύνης σταδιακά, από τη στρατηγική, στην εκτέλεση και την εξέλιξη. Το πλαίσιο AI In Control περιλαμβάνει μεθοδολογίες, εργαλεία και προτεινόμενους ελέγχους που συστήνεται να έχει ένα πρόγραμμα τεχνητής νοημοσύνης, για την εξαγωγή καλύτερων επιχειρηματικών αποτελεσμάτων:
• Διακυβέρνηση Τεχνητής Νοημοσύνης: Σχεδιάζει και ορίζει κριτήρια για την οικοδόμηση και συνεχή παρακολούθηση και έλεγχο των λύσεων τεχνητής νοημοσύνης και των επιδόσεών τους, χωρίς να παρεμποδίζει την καινοτομία και την ευελιξία.
• Αξιολόγηση Τεχνητής Νοημοσύνης: Διεξάγει διαγνωστικούς ελέγχους των λύσεων τεχνητής νοημοσύνης και εκτιμήσεις κινδύνου των περιβάλλοντων ελέγχου, για τον προσδιορισμό της ετοιμότητας του οργανισμού σε ό,τι αφορά τον αποτελεσματικό έλεγχο της τεχνητής νοημοσύνης. Παρέχει επίσης μεθόδους και εργαλεία για την αξιολόγηση σημαντικών αλγορίθμων για τους οργανισμούς, θέτει σε εφαρμογή δοκιμές ελέγχου και εποπτεύει τον σχεδιασμό, την υλοποίηση και τη λειτουργία των προγραμμάτων τεχνητής νοημοσύνης, βοηθώντας παράλληλα στην αντιμετώπιση των εγγενών προκλήσεων που προκαλούνται από αυτήν: ακεραιότητα, επεξηγησιμότητα και ευελιξία.
Παράδειγμα AI In Control η πόλη του Άμστερνταμ
Η KPMG συνεργάζεται με τον Δήμο του Άμστερνταμ ως προς την αξιολόγηση μιας ψηφιοποιημένης δημοτικής υπηρεσίας, που θα συμβάλει στην ενίσχυση της εμπιστοσύνης του κοινού για μιαν ασφαλή και καλά δομημένη πόλη, βοηθώντας παράλληλα τον δήμο στην αποστολή του για την προστασία των ψηφιακών δικαιωμάτων των πολιτών. Το σύστημα διαχείρισης αιτημάτων για τους δημόσιους χώρους του Άμστερνταμ επιτρέπει στους πολίτες να αρχειοθετούν εύκολα και γρήγορα από το διαδίκτυο αιτήματα για υπηρεσίες που ζητούν από τον δήμο, για θέματα όπως π.χ. σκουπίδια σε δρόμο. Ο αλγόριθμος προσδιορίζει το είδος του αιτήματος και ποια δημοτική υπηρεσία θα απαντήσει. Στο προσεχές μέλλον, η εφαρμογή θα καθορίζει επίσης το επίπεδο προτεραιότητας των αιτημάτων. Μέσω της μηχανικής μάθησης, η διαδικασία λήψης αποφάσεων του αλγορίθμου αναμένεται να βελτιωθεί με την πάροδο του χρόνου.
Οι δυνητικοί κίνδυνοι είναι εγγενείς στο κατά πόσον η μηχανική μάθηση θα δρα αμερόληπτα. Δεδομένα όπως η γεωγραφική θέση του αιτήματος, για παράδειγμα, θα μπορούσαν να οδηγήσουν σε λανθασμένα πρότυπα μάθησης που ο αλγόριθμος τελικά θα χρησιμοποιούσε κατά κανόνα, ενδεχομένως αντλώντας λανθασμένα συμπεράσματα και οδηγώντας σε μεροληπτική λήψη αποφάσεων. Το πλαίσιο AI In Control επιτρέπει την αποτελεσματική αξιολόγηση του πλαισίου διαχείρισης κινδύνου για την παρακολούθηση των διαδικασιών, παρέχοντας συνεχή έλεγχο των εξελισσόμενων εφαρμογών τεχνητής νοημοσύνης.
Οι πραγματικές δυνατότητες της τεχνητής νοημοσύνης θα απελευθερωθούν μόλις υπάρξει περισσότερη εμπιστοσύνη και διαφάνεια. Αυτό μπορεί να επιτευχθεί με την ενσωμάτωση των πρωταρχικών στόχων ενός προγράμματος τεχνητής νοημοσύνης, όπως η ακεραιότητα, η επεξηγησιμότητα και η ευελιξία, που αποτελούν προϋποθέσεις για την προσφορά αυτών των υπηρεσιών. Οι νέες τεχνολογίες προετοιμάζουν το έδαφος για μετέπειτα ενέργειες, που βοηθούν στη δημιουργία επιχειρηματικού οφέλους. Η διαδικασία αυτή στηρίζεται σημαντικά στην εμπιστοσύνη που παρέχεται από τα δεδομένα και τους αλγόριθμους.
Η αλγοριθμική μεροληψία (algorithmic bias) είναι μια πολύ σημαντική παράμετρος, που πρέπει να λαμβάνεται σοβαρά υπόψη, όταν σε διάφορες λύσεις περιλαμβάνονται τεχνολογίες όπως η μηχανική μάθηση και η τεχνητή νοημοσύνη. Ιδιαίτερα σήμερα, που οι πρόσφατες τεχνολογικές εξελίξεις σε αυτούς τους τομείς έχουν οδηγήσει σε αύξηση της πολυπλοκότητας των διαφόρων μοντέλων και η ερμηνεία τους αποτελεί πρόκληση, το πλαίσιο AI in Control μπορεί να διασφαλίσει την εμπιστοσύνη και τη διαφάνεια.
Για να μπορέσει ένας οργανισμός να διασφαλίσει μιαν αποτελεσματική, ολοκληρωμένη στρατηγική που να ενσωματώνει πολύπλοκες τεχνολογίες όπως η τεχνητή νοημοσύνη, τρία βασικά στοιχεία είναι απαραίτητα: σαφείς επιχειρηματικοί στόχοι, επαρκής προϋπολογισμός και σωστά σχεδιασμένη προσέγγιση. Αυτά είναι θεμελιώδους σημασίας ζητήματα για την επιτυχή υιοθέτηση των τεχνολογιών τεχνητής νοημοσύνης σε όλο το φάσμα δραστηριοτήτων ενός οργανισμού.
ΓΕΡΑΣΙΜΟΣ ΝΤΟΥΣΚΑΣ
Principal, Head of Data & Analytics,
KPMG Limited
[email protected]