Мерседес Росенде
Случаят с Дзиен-уей Сюн, предполагаем философ от Хонконг, чието творчество и личност се оказаха изцяло създадени от изкуствен интелект в сътрудничество с човешки автор, предизвика бурен дебат за границите на етиката, автентичността и достоверността в дигиталната ера. Сюн се ражда от взаимодействието между две програми с изкуствен интелект и предполагаемия му преводач от китайски – Андреа Коламедичи. Книгата му (трябва да си призная, че се поколебах относно притежателното местоимение, защото чия е тази книга?) „Хипнокрация: Тръмп, Мъск и новата архитектура на реалността“ беше оценена като „революционно есе“ и почти стана книга на годината.
Дзиен-уей Сюн беше представен като оригинален мислител, нов Сократ с хонконгски акцент, готов да озари света със своите идеи. Книгата се разграбваше от книжарниците, а академици го цитираха с онази преданост, която обикновено е запазена за хората, измислили колелото. И тогава се появи Сабина Минарди, журналистка с нюх на детектив от криминален роман, която разкри един малък детайл – Сюн не съществува. Той е мираж, създаден от Андреа Коламедичи и два изкуствени интелекта, с его, по-голямо и от това на инфлуенсър в Инстаграм. Експеримент? Измама? Или доказателството, че през 2025-а всеки може да е философ? Явно… Стига да разполага с нужните технологични инструменти.
Дзиен-уей Сюн, философът, който никога не е съществувал, постигна това, за което мнозина учени с десетилетен опит мечтаят цял живот – да бъде цитиран, рецензиран и обожаван от медиите и университетите. И всичко това, без дори да си направи труда да съществува. Нà ти сега, Платоне.
Феноменът предизвиква традиционните представи за авторство и истина. Но да си го кажем направо: тези представи отдавна се разклащат. Елена Феранте може и да е брадат мъж, а Кармен Мола се оказа трио господа. В този смисъл Дзиен-уей Сюн е просто последният гост на партито на съмнителните или неясни идентичности.
Единственото автентично в цялата история е способността ни отново и отново да попадаме в капана. И ако темата за истината ни беше с достатъчно неясни очертания досега, намесата на ИИ съвсем я зацапа и ни принуждава да преосмислим ролята му в културното, художественото, философското (и кой знае още колко така нататъци) творчество.
Според създателя му експериментът целял да „изследва границите на авторството и интелектуалното творчество в епохата на изкуствения интелект“. Но ако обичате, г-н Коламедичи, не ми се правете, че е за експериментите, когато всичко сочи, че ако журналистката не ви беше разкрила, щяхте да си прибирате хонорарите от книгата, писана от вашите цифрови роби, докато свят светува.
Липсата на прозрачност и използването на фалшива биография предизвикаха вълна от негодувание и недоверие сред медиите, академичните среди и читателите, които се почувстваха изманипулирани. Възмутени до крайност, всички извикаха: измама! Разбира се, продължават да купуват книги от странни анонимни автори, да гледат документални филми, озвучени от гласове, генерирани от ИИ, и да споделят съдържание, създадено от ботове, в Туитър. Явно, за да защитим „автентичността“, е достатъчно да се възмущаваме избирателно.
Случаят със Сюн ни показва, че една убедителна история може да заблуди дори експертите и медиите и да постави под въпрос способността на обществото да различава автентичното от изкуственото. Така изниква и един от многото етични казуси – прозрачността на авторството. Европейският регламент за изкуствения интелект от 2024 г. например изисква ясното обозначаване на съдържание, генерирано или създадено с помощта на ИИ, нещо, което в случая със Сюн (или с Коламедичи?) не е било спазено. Умишленото прикриване на естеството на автора е нарушение не само на актуалния регламент, но и на старите, позабравени принципи на честност, доверие и добросъвестност както от гледна точка на популяризацията на научни достижения, така и от тази на литературното и философското творчество.
Този феномен изведе наяве уязвимостта на системите за академична и медийна легитимация пред добре проектираните фиктивни идентичности. Достоверността на публикациите на експерти, цитиращи Сюн, беше поставена под въпрос и това разкри кризата на доверие в традиционните механизми за легитимация. И с право.
От философска гледна точка някои твърдят, че Дзиен-уей Сюн не е измама, а проявление на нова форма на авторство, при която гласът се поражда от взаимодействието между човешки и изкуствени интелекти. Сюн не съществува като индивид, но съществува като „тържество на мисълта“, временна конфигурация, отразяваща диалога между човека и машината. Макар да съм склонна да се съглася с този поглед над нещата, той не освобождава от етична отговорност онези, които създават и най-вече разпространяват тези фалшиви идентичности. Създаването на Сюн, дори и да се възприеме като академичен или художествен експеримент, не беше представено като такъв от самото начало и това затруднява моралната му защита. Дебатът напомня и за други случаи с литературни псевдоними, някои от които вече споменах, но разликата тук е, че зад името няма реален човек или дори група хора, а комбинация от програми и алгоритми.
Случаят „Дзиен-уей Сюн“ ни кара да се замислим за нуждата от нови етични и правни рамки за повече прозрачност в интелектуалното творчество в ерата на ИИ. Защитата на общественото доверие е от ключово значение, ако искаме да избегнем манипулации и дискредитиране на културната и академичната система.
В крайна сметка приемането на факта, че Дзиен-уей Сюн не съществува, че той е хибридна конструкция между ИИ и човешка креативност, ни изправя пред дилемата как да запазим честността и доверието в културата и философията. Същевременно явлението ни подтиква да преосмислим стойността на идеите независимо от техния произход – ако една идея е ценна, има ли значение кой или какво я създава? Този въпрос, далеч от това да получи лесен отговор, ще продължи да подхранва дебата за границите между човешкото и изкуственото, когато става дума за интелектуален труд.
В свят, в който автентичното, лъжливото и изкуственото са по-объркани и от плодове в смути, Дзиен-уей Сюн ни напомня една неудобна истина – ИИ, който вече не се задоволява само с писането на туитове и поправянето на граматични грешки, реши, че е време да си измисли философ, цял един философ. Какво следва сега? Кандидат за президент ИИ с реч, генерирана за 0,3 секунди? Или съвсем скоро ще разберем, че и това вече се е случило?
Бележка: Тази колонка е написана от Мерседес Росенде в сътрудничество с „Перплексити“ и „Грок“ (не, не съм съвсем сигурна кой с кого точно си сътрудничи).
Превод от испански: ВАЛЕНТИНА ИСТАТКОВА
Източник: El filósofo que nunca existió
https://www.busqueda.com.uy, 26.06.25.
