Програмісти, які створили штучний інтелект, перестали розуміти, як саме він приймає рішення, і чому вибирає саме таке рішення, а не інше.
Про цю проблему заявили відразу кілька фахівців на головній АІ-конференції – Neural Information Processing Systems, – що пройшла в Лонг-Біч (Каліфорнія), пише mind.ua.
«Не можна приймати за належне певні рішення АІ без розуміння їх логіки, – зазначає Джейсон Йосінскі з Uber. – Щоб суспільство прийняло моделі машинного навчання, ми повинні знати, як АІ приймає рішення».
Діяти потрібно вже зараз, поки система не стала надто складною, стверджують експерти.
Ця досить серйозна проблема отримала назву «чорна коробочка». Експерти звернули увагу, що АІ має схильність приймати упереджені рішення і проводити аналогії там, де їх не слід було би проводити. Помилка АІ може обійтися дуже дорого, наприклад, під час таких операцій, як космічна місія на Марс – коли штучний інтелект за 200 млн км від Землі керуватиме апаратами, які коштують сотні мільйонів доларів, зазначив Кірі Вагстафф, АІ-експерт NASA.
Вчені шукають способи зрозуміти логіку штучного інтелекту. Так, дослідник з Google Метра Рагху представила доповідь, в якій описується процес відстеження дій окремих «нейронів» нейромережі. Аналізуючи мільйони операцій, їй вдалося зрозуміти, які зі штучних «нейронів» концентрувалися на хибних уявленнях, і відключити їх.
Тому один зі способів контролювати АІ – переведення роботи нейромереж у форму, доступну для розуміння людини. «Це схоже на те, як шкільні вчителі просять дітей переказати своїми словами, що вони зрозуміли з пояснень вчителя», – каже Вагстафф.
Принцип глибокого машинного навчання був створений за аналогією з роботою мозку.
Нещодавно повідомлялося, що штучний інтелект переміг у поєдинку в шахи найсильнішу комп’ютерну програму.
Нагадаємо, робот Софія збирає гроші на всесвітню мережу штучного інтелекту, яка, за задумом, стане глобальним ринком АІ-послуг.
А засновник Alibaba Джек Ма вважає, що боятися штучного інтелекту не варто, бо людина завжди зможе його перемогти.
