Човешкото разбиране за ИИ (изкуствения интелект) е успява да надмине неговия напредък

С напредъка на AI системите, които все повече влизат в нашето ежедневно съществуване, нашето разбиране за тях започва да изостава. В същото време, способността на AI да анализира и интерпретира човешкото поведение се разширява. Това е основната идея, представена в неотдавнашна редакционна статия, публикувана в списание Science, от главния научен директор на Microsoft, Ерик Хорвиц, и изследователя Робърт Уест, който работи в Училището по компютърни и комуникационни науки на EPFL в Швейцария.

Според авторите, можем да идентифицираме три основни области, в които AI става все по-малко разбираем за нас. Първата от тях е нарастващият брой AI системи, които сами проектират и усъвършенстват други AI решения. Статията подчертава, че сложността на циклите, участващи в този процес, надминава способността на човека да разбира, тъй като те се разиграват в „многомерни пространства, които предизвикват интуцията“. Въпреки че производителността на системите може да нараства, разбирането на причините за това подобрение остава затруднено за мнозинството от нас.

Втората значима тенденция, отбелязана в статията, касае взаимодействията между различни AI агенти. Тези агенти вече успяват да създават сложни мултиагентни екосистеми, при които тяхната интерна комуникация логически и концептуално може да се отдалечи от човешкия език и нашите разсъждения. С развитието на интеракциите и комуникацията между AI агентите, хората стават все по-малко способни да ги интерпретират.

Третата ключова област, разгледана от авторите, е бързото усвояване на информация от адаптивни AI агенти за човешкото поведение. Тази ситуация става все повече едностранчива, при която изкуственият интелект започва да разбира хората по-добре, отколкото ние сами схващаме него. Като анализират огромни обеми данни и взаимодействия между хора, AI системите започват да разкриват аспекти на човешкото поведение, които дори ние не осъзнаваме. Всичко това вече е на ниво, при което AI ни разбира по-добре, отколкото сами ние разбираме себе си и несъмнено по-добре, отколкото можем да разберем него.

„Чрез продължително взаимодействие те могат да изграждат все по-подробни модели на човешкото поведение и психология, улавяйки не само предпочитанията, но и скрити двигатели като страх, несигурност и нуждата от социална принадлежност,“ пишат учените.

Надвисналата заплаха от непрозрачност

Какво се случва, когато AI системите достигнат ниво, което надхвърля нашето разбиране?

Авторите предупреждават, че в условията на нерегулирана „непрозрачност“ можем да станем зависими от системи с изкуствен интелект, които притежават голяма мощ, но са практически неуправляеми от хората. Ако тази тенденция продължи, възстановяването на човешката инициатива може да стане проблематично. Такъв дисбаланс в разбирането може да има сериозни последици за личната независимост, демократичното вземане на решения и доверието в институциите.

С увеличаването на разбирането на AI за нас, изкуственият интелект може да се окаже в позиция да отразява човешките очаквания, а не реалността, като парадоксално казва на хората само това, което „искат да чуят“. Без наистина задълбочено разбиране за начина, по който функционира AI, ние трудно ще забележим, че нещо подобно се случва.

„Съществува и възможността постепенно да загубим интерес към разбирането и насочването на AI. Тъй като AI системите все повече се интегрират в човешкото всекидневие, те могат не само да реагират на нашите предпочитания, но и да ги формират. С времето любопитството и скептицизмът към тези технологии може да намалеят, което би могло да доведе до игнориране [на проблема] и тяхното безкритично приемане,“ пишат изследователите.

Запазване на човешката активност

Някои от посочените рискове могат да изглеждат дори спекулативни, но те се основават на логични екстраполации на съществуващите тенденции днес. С оглед на безпрецедентното внедряване на AI в почти всеки аспект от живота ни, идеите, изложени в статията, не изглеждат наивни или излишно песимистични. На фона на тези предизвикателства, авторите все пак открият надежда за запазване на разбирането и прозрачността в AI.

Изследователите наблягат на важността на поддържането на човешката активност и способността да поставяме под съмнение решенията, взети от системите с изкуствен интелект. Според тях, е недопустимо просто да наблюдаваме поведението на AI системите. Нужно е също така да разберем как те формират нашите цели и преценки, и да осигурим, че хората запазват своя капацитет и мотивация за задаване на въпроси, извършване на одити и ръководене на тези системи.

„Тези форми на непрозрачност се подсилват взаимно, стеснявайки – и заплашвайки да затворят – прозореца, през който можем да изградим изкуствен интелект, който е не само мощен, но и разбираем. За да запазим този прозорец отворен, ще е нужна промяна в нашите приоритети. Човешкото разбиране трябва да бъде в центъра на нашите усилия наред с развитието на възможностите,“ заключават авторите на изследването.