Ще раз про штучний інтелект

Біля порога встали гори громадно,
Я до підніжжя щокою припадаю.
І не виросла ще та ромашка,
На якій я собі погадаю.

Роберт Рождественський

Штучний інтелект (ШІ) або ж Artificial Intelligence (AI) — швидко розвивається технологія, про яку варто говорити навіть частіше, ніж це роблять сьогодні. Вона стрімко розвивається разом з такими які доповнюють один одного технологіями, як нейронні мережі і машинне навчання (до яких останнім часом підключився Інтернет речей – IoT), і, за чутками, навіть збирається захопити весь світ. Причому з нашою безпосередньою допомогою. Про неї безперервно говорять і пишуть, пишуть і говорять. ІЇ вже застосовується в складному моделюванні, в іграх, у медичній діагностиці, в пошукових движках, в логістиці, у військових системах і багато де ще, обіцяючи в осяжному майбутньому охопити і, можливо, ґрунтовно «перелопатити» весь постіндустріальний ландшафт. І він навіть почав писати літературні твори на зразок таких: «Давним-давно жила-була золота коняка з золотим сідлом і красивою фіолетовою квіткою у волоссі. Коняка принесла квітку в село, де принцеса пустилася в танок від думки про те, як красиво і добре виглядає кінь».

Що можна сказати? — Коні, вони такі. Та й принцеси набуваються, як відомо, більше по селах… Проте ШІ має здатність навчатися. «Перший млинець грудкою» буває не тільки в літературі, тому і всім іншим шанувальникам ШІ варто до нього приготуватися.

І ще ШІ – це мантра, яку раз від разу повторюють технологи, академіки, журналісти та венчурні капіталісти для залучення уваги до проблем людства, так і до собі, коханим. Одні фахівці в особі відомих представників науки і бізнесу, як Стівен Хокінг, Білл Гейтс і Елон Маск не так давно турбувалися за частиною майбутнього ШІ, оскільки подальший розвиток АЙ-технологій може відкрити «ящик Пандори», коли ШІ стане домінуючою формою життя на нашій планеті. Інші фахівці стурбовані розробкою етичних норм, щоб приборкати руйнівну силу ШІ (втім, ШІ поки ще нічого не зруйнував), направивши її на служіння загальному благу цивілізації.

А ось Пентагон, приміром, вже вирішив, що ШІ – це ключовий напрям, на який необхідно вкласти максимум зусиль, щоб не дати Китаю і Росії вирватися вперед. У зв’язку з цим в США під керівництвом міністра оборони створюється відповідний центр ШІ.

В даний час значна частина того, що в публічній сфері називається ШІ, є лише так званим «машинним навчанням» (МL – Machine Learning). Зокрема, з допомогою технології Big Data ML дозволяє комп’ютерній програмі навчатися на всіх зібраних даних і видавати передбачення/прогнози зі зростаючим в міру навчання точністю для використання при автоматичному (або під контролем людини) прийнятті рішень. В цілому ML – це алгоритмічне поле, що об’єднує ідеї з статистики, інформатики та багатьох інших дисциплін для розробки алгоритмів, які дозволяють робити вказане вище.

До речі, ML народилося не сьогодні. Його роль у промисловості була в цілому зрозуміла ще на початку 1990-х років, і до кінця ХХ століття такі перспективні компанії, як Amazon, вже використовували ML у всьому своєму бізнесі, вирішуючи критично важливі проблеми з виявленням шахрайства, прогнозуванням логістичних ланцюжків або створенням рекомендацій споживачам. По мірі того, як обсяги даних і обчислювальні ресурси комп’ютерів швидко зростали протягом наступних двох десятиліть, стало ясно, що незабаром ML буде управляти не тільки Amazon, але і практично будь-якою компанією, в якій рішення можуть бути прив’язані до великомасштабних данних. По мірі того, як фахівці в області алгоритмів ML співпрацювали з фахівцями в області баз даних і розподілених систем для створення масштабованих і надійних систем ML, розсувалися ширше соціальні та екологічні межі отриманих систем. Сьогодні саме це злиття ідей і технологічних тенденцій і називається ШІ.

З іншого боку, історично склалося так, що термін AI з’явився ще в кінці 1950-х років, щоб на зльоті з’явилися ідей в частині розвитку кібернетики (здебільшого там, де вона не вважалася псевдонаукою») поринути в настільки п’януче душу вченого прагнення реалізувати в програмному і апаратному забезпеченні сутність з інтелектом, наближеному до інтелекту людини. Революція представлялася такою близькою, і штучна розумна сутність повинна була здаватися однієї з нас, якщо не фізично, принаймні, подумки. Новий термін відразу ж підхопили письменники-фантасти, але в реальному житті у творців «нових сутностей» успіхи не надто наближалися до успіхів Господа або ж просто Природи (як прийнято говорити у атеїстів).

У ті далекі часи термін ШІ використовувався на «високому рівні», що наближається до здатності людей «міркувати» і «думати». Як відзначають фахівці, незважаючи на те, що з тих пір минуло майже 70 років, всі ті минулі високорівневі міркування та ідеї залишаються невловимими і не отримали якогось програмно-апаратного втілення. На відміну від захоплених минулих очікувань весь сьогоднішній «реальний» ШІ в основному сформувався в галузях техніки, пов’язаних з низькорівневим розпізнаванням образів і управлінням рухом. І частково в галузі статистики щодо дисциплін, орієнтованих на пошук шаблонів даних і створення логічно пов’язаних з ними прогнозів. Тобто настільки давно очікуваної революції в області ШІ поки ще не сталося.

Читайте також  Книга «Сучасний PHP»

Втім, на відміну від людського мозку, поверх якого існує і наш інтелект, AI не залежить від атомів вуглецю, білкової життя і всіляких еволюційних обмежень. Завдяки цьому він здатний безперервно навчатися і вдосконалюватися, і, врешті-решт, він дозволить людству вирішити безліч нагальних проблем — від кліматичних змін до онкологічних захворювань. Такої думки дотримується, зокрема, Макс Тегмарк, фізик з MTI та співзасновник так званого «Інституту майбутнього людства». В інтерв’ю виданню The Verge Тегмарк представив своє бачення трьох еволюційних форматів життя на нашій планеті).

Життя 1.0 характерне для бактерій, яких Тегмарк називає «невеликими атомами, з’єднаними разом найпростіший алгоритм саморегулювання». Бактерії не здатні освоїти нічого нового протягом свого життя, а механізми їх роботи вкрай примітивні – вони можуть тільки повертатися у той бік, де більше їжі. У свою чергу, розвиток їх «програмного забезпечення» (сучасні вчені тепер легко поділяють все суще на ПО і «залізо») можливо тільки в рамках еволюційних змін.

Життя 2.0 втілюється в людях. І, незважаючи на те, що людина також володіє жорстко заданими і обмеженим еволюцією тілом — «залізом», він також володіє серйозною перевагою у вигляді більш досконалим розумом – «програмного забезпечення», яке дозволяє йому вчитися самостійно. Завдяки здатності вдосконалювати своє програмне забезпечення за власним розсудом, здобуваючи знання і не чекаючи еволюційного розвитку, люди почали домінувати на цій планеті, створили сучасну цивілізацію і культуру. Тим не менш, незважаючи на всі переваги, у нашого вдосконалення є межа. Саме тому з часом життя 2.0 буде витіснене менш обмеженим життям 3.0 (враховуючи сказане трохи вище, робити подібні заяви було б необачним).

Життя 3.0 характеризується тим, що в ньому не існує не тільки еволюційних, а й біологічних обмежень. ІЇ, на відміну від попередніх форматів, буде здатний розвивати як своє, так і «залізо». Наприклад, встановити в себе більше пам’яті, щоб запам’ятовувати в мільйон разів більше інформації, або отримати більшу обчислювальну потужність (до речі, було б цікаво подивитися – чи немає у Тегмарка де-небудь за вухом USB-роз’єму). На відміну від життя 3.0, ми, задовольняємося життям 2.0, – хоча і можемо підтримувати власне серцебиття за допомогою кардіостимулятора або полегшити травлення таблеткою – не в змозі внести в свої тіла кардинальні зміни. Ну, хіба що невелику корекцію за допомогою пластичних хірургів або вживлення чіпів. Нам не дано серйозно збільшити свій зріст або в тисячу разів прискорити мислення у власному мозку. Людський інтелект працює на біологічних нейронних зв’язках, причому обсяг нашого мозку обмежений таким чином, щоб при народженні голова могла пройти через родовий отвір матері. ШІ ж нічим не обмежений і може вдосконалюватися нескінченно – пояснює учений.

Втім, схоже, що Тегмарк якось не враховує прогрес в генетичному проектуванні – не приведи господи, люди таки навчаться коригувати свої тіла, щоб відростити довгі ноги, чіпкі щупальця, збільшити родовий отвір або додавати розуму тим, кому його катастрофічно не вистачає.

Тегмарк зазначає, що багато людей сьогодні сприймають розум як загадкову властивість біологічних організмів. Однак, за його словами, ці уявлення є помилковими. «З точки зору фізика, розум — це всього лише обробка інформації, яку виконують елементарні частинки, що рухаються по певним фізичним законам», – говорить він. Закони фізики ніяк не перешкоджають створенню машин, набагато переважаючих людини з інтелектом (добре б при цьому поточніше знати – що ж таке інтелект). Крім цього, підкреслює Тегмарк, немає ніяких свідчень на користь того, що розум залежить від наявності органічної матерії:

«Я не думаю, що є якийсь секретний соус, в якому обов’язково повинні бути присутніми атоми вуглецю і кров. Я багато раз замислювався, яким може бути межа інтелекту з точки зору фізики, і щоразу приходив до висновку, що якщо така границя існує, то ми від нього знаходимося дуже і дуже далеко. Ми навіть не можемо його уявити. Тим не менш, я впевнений, що саме людство вдихне у Всесвіт те, що згодом стане життям 3.0 – і це, з моєї точки зору, звучить дуже романтично».

У відповідь хочеться не менш романтично додати – а нас туди з нашим ШІ з усіма так сказати нашими «тріщинками» звали? Що стосується «тріщинок». Якщо життя 3.0 не буде знати обмежень, то непогано б дізнатися, в яких саме: в обмані, байдужість, підлість? А, бути може, у можливості вбивати? Точно такі ж проблеми регулярно постають перед окремими представниками роду людського, які раз за разом піддаються спокусі.

Читайте також  10 великих глобальних проблем, які можуть вирішити технології

«Ми стикаємося з обмеженнями нашого розуму кожен раз, коли проводимо те чи інше дослідження. Саме тому я вважаю, що як тільки нам вдасться об’єднати наш власний розум з ІІ, перед нами відкриються величезні можливості щодо вирішення практично всіх проблем», – стверджує Тегмарк, а проблем, як ми знаємо, у людей буває багато.
Ну що ж. Для цього не треба, як кажуть, далеко ходити. За останні 20 років як у промисловості, так і в наукових колах спостерігався значний прогрес у створенні так званого «посилення інтелекту» або IA (Intelligence Amplification). У цьому випадку обчислення і дані використовуються для створення служб, які доповнюють людський інтелект і творчість. Пошукова система теж може розглядатися як приклад IA (вона збільшує людську пам’ять і фактичні знання), а також природний переклад мови (він збільшує здатність людини спілкуватися). Генерація звуків і зображень служить палітрою і підсилювачем для творчості художників. У той час як послуги такого роду можуть, ймовірно, включати в себе високорівневі міркування та ідеї, в даний час цього не відбувається. В основному все зводиться до виконання різних співставлень наборів даних з шаблонами або числових операцій. Можливо, ми ще побачимо якісь хмарні сервіси типу InaaS (Intellect-as-a-Service), що допомагають користувачу порозумнішати в різних областях знань, але це буде лише розвитком пошукових систем, але ні в якому разі не заміною людського інтелекту.

Існує також така «розумна» річ, як «інтелектуальна інфраструктура» (II – Intelligent Infrastructure), в якій співіснують мережі обчислень, даних і фізичних об’єктів і яка починає з’являтися в таких галузях, як транспорт, медицина, торгівля і фінанси. Все це має величезне значення для окремих людей і співтовариств. Іноді поняття II виникає в розмовах про інтернет-речі, але зазвичай це відноситься до простої проблеми отримання «речей» в Інтернеті, а не до вирішення значного набору проблем, пов’язаних з цими речами», щоб аналізувати потоки даних, виявити їхні зв’язки з зовнішнім світом і взаємодіяти з людьми та іншими речами» на набагато більш високому рівні абстракції, ніж просто біти. Загалом, IA та ШІ – це ще не «справжній» ШІ.

А що є «справжній» інтелект? Треба саме його імітувати в рамках створення ШІ? Звичайно, людський інтелект – це єдиний вид інтелекту, який нам відомий. Але ми то знаємо, що насправді люди не дуже добре розбираються в деяких судженнях: у нас є свої упущення, упередженості і обмеження. Буває, люди помиляються. Більш того, критично ми не еволюціонували для того, щоб виконувати види широкомасштабного прийняття рішень, з якими стикаються сучасні системи, приготовлені на роль ШІ. Звісно, можна скільки завгодно розмірковувати про те, що система ШІ не тільки наслідує людського інтелекту, але і доповнює, виправляє його, а потім буде ще і масштабуватися до вирішення як завгодно великих проблем, що стоять перед людством. Але, вибачте, це вже з області наукової фантастики. І подібні умоглядні аргументи, ось вже 70 років живлять художню літературу, не повинні ставати основною стратегією формування ШІ. Очевидно, ІА і ІІ будуть і далі розвиватися, вирішуючи свої приватні завдання, але без претензії на те, щоб стати «справжнім» ШІ. Поки ще ми дуже далекі хоча б від реалізації «человекоподражательного» ШІ.

До того ж успіх у ІА і ШІ не є ані достатнім, ані необхідним для вирішення важливих проблем ШІ. Якщо звернутися до безпілотних автомобілів, то для реалізації такої технології необхідно буде вирішити ряд технічних проблем, які можуть мати зовсім мало відношення до компетенціями людини. Інтелектуальна транспортна система (а це система II), швидше за все, буде більшою мірою нагадувати існуючу систему управління повітряним рухом, ніж популяція слабо пов’язаних, орієнтованих на власні цілі і в цілому неуважних людей-водіїв. Точніше, вона буде набагато складніше, ніж нинішня система управління повітряним рухом хоча б в частині використання величезних обсягів даних і адаптивного статистичного моделювання для інформування про приватних рішеннях щодо кожного маневру кожного автомобіля.

Разом з тим, незважаючи на в цілому оптимістичний настрій щодо частини майбутнього ШІ, фахівці визнають, що ШІ несе серйозні ризики. Пам’ятається, Стівен Хокінг та ін. вважали, що ШІ стане або найгіршим, або найкращим явищем в історії людства. До того ж, коли люди говорять про нинішньої тотальної автоматизації робочих місць, вони часто забувають, що набагато важливіше зазирнути вперед, щоб зрозуміти, що буде далі.

З цього приводу Тегмарк сказав: «Справа в тому, що сьогодні перед нами стоять питання, на які ми повинні дати відповідь, перш ніж на світло з’явиться перший суперінтелект. Причому ці питання є досить складними, можливо, відповісти на них ми зможемо не раніше, ніж через 30 років. Але як тільки ми їх розв’яжемо, то зможемо убезпечити себе від загроз». «Як ми зможемо забезпечити надійність майбутніх систем ШІ, коли сьогодні наші комп’ютери дуже легко зламуються? Як зробити так, щоб ШІ розумів наші цілі, якщо він стане розумніший за нас? Якими повинні бути цілі у самого ІІ? Чи зможе штучний розум виробити перед собою високі завдання, на які сьогодні сподіваються багато американські програмісти, або ІІ раптом стане мислити, як прихильник забороненої в РФ ІГ або людина з Середніх століть? Як зміниться наше суспільство після винаходу ІІ? – Коли ваш комп’ютер зависає, ви починаєте нервувати, тому що втратили годину роботи. Але уявіть, що мова йде про бортовому комп’ютері літака, на якому ви летите, чи про систему, що відповідає за ядерний арсенал США – ось це вже в рази страшніше».

Читайте також  Як купувати на аліекспрес в Україні - Aliexpress

А ось хто, приміром, повинен відповідати, якщо AI або збройним їм робот здійснять дію, що заподіяли шкоду людям? Ця дія може бути випадковим, але це один з багатьох постають перед суспільством питань про автономії і відповідальності ІІ, коли його найбільш просунуті форми, скажімо, самокеровані автомобілі (можливо, перші роботи, яким ми вчимося довіряти), дрони або навіть засоби ведення війни, отримують все більш широке поширення. Фахівці з ІІ та права намагаються зрозуміти, однак не бачать простої відповіді. У будь-якому випадку питання залишається юридично важким. Як, наприклад, розділити зони відповідальності програміста і власника, враховуючи, що роботи та ІІ навчаються з навколишнього середовища?

 

За словами Тегмарка, щоб нівелювати вихідні від ІІ ризики, треба частіше влаштовувати дискусії. Причому в дискусіях повинні брати участь всі верстви суспільства, а не тільки «повернені» на ІІ вчені. Адже ИИ обіцяє змінити саму сутність нашої цивілізації і торкнеться життя буквального кожної людини. Нехай кожна людина і бере участь. І що цікаво – сьогодні у дослідження ІІ вкладають мільярди, при цьому вивчення його безпеки практично не фінансуються. Хто став би будувати ядерний реактор, не спроектувавши попередньо його захист? Очевидно, що всі б виграли, якби держави і корпорації стали більше вкладати грошей у дослідження на тему безпеки ІІ. І тоді у нас що-небудь вийде.

А тепер розглянемо ідеальне інформаційне суспільство, в якому навколишнє середовище обвішана датчиками, які справно передають адекватну інформацію і їх ніхто не «хакает» (в сенсі, цього ніхто не заважає). І ось цей величезний навколишній світ поставляє в нашу високотехнологічну компанію величезний потік даних, який в реальному часі обробляється в ЦОДах, перетворюється, візуалізується та ін., щоб постати в «человекочитаемом» вигляді. І потім людина, якій призначена ця інформація, напружуючи мізки, дивиться на все це і приймає операційне рішення, яке він транслює іншій людині, воплощающему це рішення в якийсь код. Далі цей оптимізований код управляє виробництвом, компанією або навіть державою, і далі виробництво та ін. починає поліпшувати щось в навколишньому світі і так далі.

А вам не здається, що в історії про ШІ з’явилося слабка ланка, і людина стає просто зайвою? Фахівці відзначають, що добре «навчений» алгоритм вже сьогодні в змозі сам приймати операційні рішення, особливо в більш або менш повторюваному виробничому процесі. Причому може робити це набагато краще будь-якого самого досвідченого технолога (не кажучи вже про начальника транспортного цеху), який, наприклад, «життя і здоров’я поклав» на те, щоб добре керувати тим самим виробничим процесом. І виходить, що наявність людини в ланцюзі прийняття рішень просто непрактично. Тобто, ще не побудувавши «справжній» ШІ, людство вже починає усвідомлювати власну непотрібність в ряді відомих процесів. Чи То ще буде, коли з’явиться «справжній» або «класичний» ШІ… Вважатиме цей ІІ потрібне годувати мільйони і навіть мільярди непотрібних нероб на «білкової тязі»? Адже харчуються електрикою роботи не потребують сільському господарстві, житло, переробки побутового сміття, опаленні, водопостачанні і пр. і пр. Тут і без ШІ легко збагнути, на чому доцільно заощадити. Хто-небудь окрім письменників-фантастів прорахував такі ризики?

Можливо, коли-небудь які-небудь бездротові технології і хмарні сервіси дозволять наділити інтелектом кого завгодно. І тоді всі навколо стануть розумні і освічені. Тільки це буде вже нікому не потрібно. ІІ вам заявить, що, мовляв, ваш поїзд, товариші люди, вже пішов. Що ж залишиться нам? – Ну, хоча б пісня:

Я мріяла про моря і корали.
Я поїсти мріяла черепашачий суп.
Я зробила крок на корабель, а кораблик
Виявився з газети вчорашньої…

За матеріалами: radio.ru The Verge, hightech.fm, vz.ru, anews.com, pcweek.ru, medium.com, Defense News

Олександр Голышко, к. т. н., системний аналітик

Степан Лютий

Обожнюю технології в сучасному світі. Хоча частенько і замислююся над тим, як далеко вони нас заведуть. Не те, щоб я прям і знаюся на ядрах, пікселях, коллайдерах і інших парсеках. Просто приходжу в захват від того, що може в творчому пориві вигадати людський розум.

You may also like...

Залишити відповідь

Ваша e-mail адреса не оприлюднюватиметься. Обов’язкові поля позначені *