Чи є ми єдиною розумною формою життя на планеті? Відповісти на це запитання не так уже й легко. Дедалі більше даних говорять про дивовижні здібності багатьох видів птахів, риб і ссавців. Нещодавно до дискусії долучився ще один претендент на розум — штучний інтелект. Наскільки він узагалі «інтелект»? Чим відрізняється його «розумність» від того, що ми спостерігаємо у світі людей і тварин? На ці та інші запитання спробував знайти відповідь британський філософ Джонатан Бірч.
Джерело: huxley.media.
Джонатан Бірч — професор філософії Лондонської школи економіки та політичних наук / academicspeakersbureau.com
ТЕСТ НА ЛЮДЯНІСТЬ
Джонатан Бірч — професор Лондонської школи економіки та політичних наук, який спеціалізується на проблемах еволюції соціальної поведінки. У своїй новій книжці «Грань свідомості: ризик і запобіжні заходи в людей, інших тварин і штучного інтелекту», що побачила світ у видавництві Оксфордського університету, філософ порушує цілу низку дуже незвичних на перший погляд запитань.
Наприклад, чи може штучний інтелект (ШІ) зазнавати стресу? Чи страждають лобстери в каструлі, поки вона кипить? Чи може 12-тижневий плід відчувати біль? Просто так відмахнутися від подібних запитань не вийде, оскільки від відповідей на них залежить зміст того, що ми називаємо людяністю, сам сенс нашої цивілізації.
НЕ ЛИШЕ ЛЮДИ ВМІЮТЬ ВІДЧУВАТИ
Якщо якась сутність має «чутливість», отже, вона вимагає до себе певного ставлення, їй необхідний захист. Під чутливістю Бірч розуміє здатність відчувати себе добре чи погано. Філософія й релігія можуть по-різному оцінювати те, наскільки чутливість важлива для нас.
Однак, наділяючи когось чутливістю, ми одразу ж опиняємося в етичному смисловому полі і стикаємося з проблемою розрізнення добра і зла. У нас немає жодних підстав вважати, що ми можемо говорити на цю тему виключно щодо людей. Це можуть бути сільськогосподарські тварини, набори клітин, комахи або роботи — будь-які сутності, у якої ми можемо виявити чутливість.
РІЗНІ ІСТОТИ — РІЗНІ МОДЕЛІ РОЗУМНОСТІ
Проблема лише в тому, як це встановити. Як визначити, чи є щось розумним? На сьогодні не існує несуперечливої наукової або філософської концепції розумності. Замість неї ми маємо масу фундаментальних розбіжностей. Інтерпретація експериментальних даних різниться.
Люди не проводять постійних досліджень розумних здібностей багатьох істот, включно з тваринами та ШІ. Крім того, виникає проблема вимірювання. У ссавців моделі поведінки та мозкова активність можуть суттєво відрізнятися від розуму черевоногих молюсків. Відповідно, і тест на розумність для них має бути іншим. А як нам виміряти розумність систем ШІ, які взагалі не мають мозку чи фізичних проявів почуттів?
Бірч пропонує не сподіватися на те, що з часом ця невизначеність вирішиться сама собою, і зіграти на випередження: виробити підхід, який за перших підозр у розумності істоти запускає два процеси.
МЕТАКОНСЕНСУС І ТЕСТ НА ЧУТЛИВІСТЬ
Перший передбачає, що експерти визначають перспективи сутності — наскільки вона в принципі може бути розумною. При цьому не йдеться про консенсус. Вимагати тут консенсусу — несправедливо, бо його пошук потенційно може прирікати чутливу істоту на тривалі страждання. Натомість Бірч пропонує «науковий метаконсенсус», який би запускав захист.
Під цим філософ розуміє погляд на розумність не як на якісь вимірювані дані, а як на «правдоподібну можливість», з якою згодні навіть ті, хто сумнівається. Висновок про таку правдоподібність може бути зроблено на основі доказів і послідовних теоретичних побудов. Якщо ж метаконсенсусу немає, істоти можуть бути визначені як пріоритетні для дослідження або відхилені як нерозумні.
ВЕЛИКІ МОВНІ МОДЕЛІ — РОЗУМ ІНШОГО ТИПУ?
Після вищезазначених експертних процедур запускається другий процес: інклюзивні, поінформовані громадянські комісії розробляють захисні політики щодо кандидата на чутливість. Вони мають бути пропорційними ризикам чутливості такого суб’єкта, враховувати різні цінності та компроміси, а також переглядати свої оцінки в міру накопичення нових доказів.
На думку Бірча, є три царини, які кидають виклик нашим визначенням чутливості. Перша — це людський мозок (люди з розладами свідомості, ембріони, нейронні органели та синтетичні моделі мозкових систем). Друга — це тваринний світ (ссавці, риби, птахи, молюски, комахи, хробаки, павуки). І, нарешті, третя царина — це штучний інтелект (LLM, великі мовні моделі).
РОЗРОБКА НОВИХ КРИТЕРІЇВ
У кожній із цих трьох царин є невирішені проблеми, які супроводжуються філософськими та науковими суперечками. Варто погодитися, що ми надто мало знаємо про розумність усього того, що нас оточує. Наприклад, вивчаючи ШІ, ми стикаємося з проблемою розробки тестів на чутливість. LLM генерує якийсь текст про те, як він «відчуває».
Однак він робить це не тому, що дійсно так себе почуває, а тому, що алгоритм винагороджується за імітацію чутливості. У такій ситуації поведінкові маркери для визначення чутливості вочевидь не підходять. Замість них Бірч пропонує почати пошук інших, «глибинних обчислювальних маркерів» чутливості.
ДЕ МЕЖІ РОЗУМНОСТІ?
У своїй рецензії на книгу Бірча Джонатан Кіммельман, біоетик канадського Університету Макгілла (Монреаль), ставить справедливе запитання: чому б нам не подивитися на сформульовану філософом проблему ще ширше? Кіммельман нагадав, як 1995 року тодішній президент США Білл Клінтон описав США як суспільство, що перебуває «у смутку».
Тобто чутливістю, «настроєм» може володіти не тільки окрема людина, а й країна. Те саме можна сказати і про інші колективні утворення – бджолиний рій, косяк риб, корпорацію, націю. Їх теж можна описати таким чином, наче вони володіють свого роду свідомістю? А що, як ми будемо інтерпретувати в цьому стилі поведінку великих екосистем або планети Земля в цілому?
ЗАХИСТ ПОЧУТТІВ: УСЕ НАДТО НЕПРОСТО
Кіммельман також вказує на проблему «пропорційності методів захисту». Знайти компроміс між усіма істотами, що відчувають, надзвичайно складно. Люди кепсько справляються з необхідністю поступитися своїми інтересами на користь інших чуттєвих істот, скажімо, як тварини на фермах.
Чи може певна форма та інтенсивність почуття мати якісь переваги перед іншою формою або почуттям? Чи набуває почуття більшого значення у зв’язці з іншими атрибутами, як-от інтелект? Чи можуть чуттєві й розумні істоти пред’являти вищі вимоги до способів захисту, ніж істоти чуттєві, але нерозумні?
Книга Бірча ставить безліч запитань, на які сьогодні навряд чи можливо знайти однозначну відповідь. Однак у будь-якому разі науці та філософії рано чи пізно доведеться на них відповідати, щоб втамувати інтелектуальний голод, породжений невизначеністю.
Підтримайте проект на Patreon
