В Євросоюзі написали «моральний кодекс» для штучного інтелекту, а в Росії йде розробка стратегії розвитку ІІ. Тому що навіть керовані людиною програми не повинні існувати поза правовим полем. Тим більше що розвиватися штучний інтелект буде, насамперед, у військовій сфері. Про його достоїнства і недоліки, майже безмежних можливостях і «побічні ефекти» розповідають експерти.
Зображення:Ми не говоримо про надприродне розумі.
Ігор Ашманов
Президент IT-компанії «Крибрум», експерт з ІІ
Єврокомісія розробила основи етичних законів для штучного інтелекту (ШІ). Рекомендації ці, по-моєму, абсолютно безпорадні. Це, в основному, нісенітниці, за все хороше проти всього поганого.
Штучний інтелект для тих, хто його розробляє, — це навіть не наука, а досить розвинена традиційна інженерна дисципліна, набір математичних і інженерних методів оптимізації і машинного навчання, які дозволяють імітувати когнітивні функції людини. Ми говоримо не про надприродне розумі, який виник в результаті невідомо чого всередині комп’ютера (як у вигадки голлівудських сценаристів), а про реальну ситуацію, яка зараз знаходиться на кінчиках пальців розробників і програмістів.
Навчаючи штучний інтелект щось розпізнавати, ми добиваємося того, що він починає це робити краще, ніж людина. Але ніякого «саморозвитку» або «усвідомлення себе» там в принципі немає.
Повинні бути якісь юридичні рамки для ІІ? Повинні, але незрозуміло, що тут могло б бути предметом регулювання. Це дуже серйозний розділ права, який поки ще не склався.
Юристи займаються зараз більш нагальними і конкретними питаннями у сфері ІІ. Наприклад, треба визначити, хто відповідає за поведінку безпілотного автомобіля. Тому їх все ще немає на дорозі, хоча безпілотний транспорт технічно вже може їздити. Не вирішено, що за страховка повинна бути оформлена, хто відповідає за збитого пішохода.
Безпілотне авто, розроблене компанією Cainiao Network китайського гіганта електронної комерції Alibaba Group, Юньци, Ханчжоу, 2018 рік. Фото:Багато країн — Китай, США, Європейський союз — вже створили національні стратегії розвитку штучного інтелекту. У Росії поки розробляється стратегія. Є програма «Цифрова економіка», де зазначено чимало законів, які треба написати і прийняти, в тому числі закон про загальнодоступних даних, закон про великих даних. Закон про особистих даних потрібно переробляти. По мірі появи конкретних життєвих проблем зі штучним інтелектом їх доведеться регулювати.
Основне, що правильно вимагати від розробників, — можливість відновити порядок прийняття рішень штучним інтелектом. Кодекси для розробників пишуть професійні юристи, у тому числі російські.
Основна сфера застосування штучного інтелекту — це війна. Усі намагаються не спізнитися в цій справі, тому що якщо хтось зробить дуже швидке і автономне зброю, яке неможливо буде збити або відобразити, то він, швидше за все, забере собі весь світ.
Боятися треба не ШІ, а людей, які його розробляють. Всі неприємності на нашій планеті від людей, і ще трохи — від землетрусу або цунамі. Років через 10-15 існуючі технології дозволять зробити охоронця, який буде в змозі побачити за 500 м і вийняти з повітря кулю, випущену кілером.
Через 20 років на полі бою в будь-якому випадку будуть працювати тільки роботи. Всі армії світу мають підрозділи, що займаються штучним інтелектом. Основний «прогрес» буде саме там. Швидше за все, вже через два-три роки роботам передадуть ліцензію на вбивство.
Штучний інтелект можна приладнати таким чином, щоб він заміняв людей. Мільйони людей працюють в колл-центрах, але через деякий час прості запитання голосом буде розбирати робот. Зникне досить багато професій рутинного середнього класу, коли люди перекладають папірці.
Але послухайте музику, яку складає штучний інтелект, подивіться картини, які він малює. Вам не сподобається, це сурогат.
Є певний набір речей, які не можуть бути послугою. Їх також не можна і автоматизувати, віддавати штучного інтелекту.
Ніяка машина не здатна замінити людину.
Артем Кирьянов
Юрист, член Громадської палати РФ
У Єврокомісії, яка розробила основи етичних законів для штучного інтелекту, дуже великі бюджети на утримання співробітників, яких потрібно постійно позичати. Ось вони і зайняті. На щастя, документи Єврокомісії не мають до нас ніякого відношення. Дуже сподіваюся, що в Росії не виникне творчого свербежу написати що-небудь подібне, оскільки у нас бюрократія не так сильно розвинена і забезпечується ресурсами не так, як у Брюсселі.
Не треба регулювати прогрес. Юриспруденція обслуговує ключові норми, що склалися в суспільстві в даний момент.
Тема штучного інтелекту і повстання машин була розкрита вже років сорок тому Станіславом Лемом в книзі «Сума технології». Напевно, ми дивимося багато цікавих науково-фантастичних фільмів, що не мають зв’язку з реальністю, і нам здається, що штучний інтелект — якась штука, яка може приймати рішення за людей, впливати на них, формувати соціальні відносини і в якийсь момент вийти з-під контролю.
Але принаймні у найближчі 300 років це неможливо. Ніяка машина не здатна замінити людину просто з-за різної природи буття.
Крім законодавчої бази, що стосується конкретних продуктів, наприклад великих даних, все інше буде галузевим регулюванням. Треба вникати, які завдання будуть у правовому регулюванні за дронам, якщо зіткнулися кілька федеральних органів. Якщо ми всі кодифікуємо заново, можливо, буде кодекс, присвячений штучного інтелекту.
Відніме штучний інтелект роботу в людей? Питання не в цьому. Ми так боремося за роботу, а боротися треба за інше. Все людство, на жаль, змушений працювати, за винятком 1,5−2% творчих людей, які свого бізнесу або розваг отримують і гроші, і задоволення. Всім іншим треба значно менше працювати і набагато більше відпочивати. Якщо збережеться співвідношення з фінансів, суспільство зможе поставити штучний інтелект на службу ефективності бізнес-процесів і буде проводитися роздача прибутку — як при комунізмі, тільки з грошима.
Що в цьому поганого? Чому ми повинні змушувати людей працювати 40 годин на тиждень, коли вони можуть працювати п’ять годин на тиждень, а решту часу проводити добре? Це набагато краще, ніж зберігати робочі місця, які не потрібні. Уявімо, що з усім у компанії може впоратися один комп’ютер, але при цьому компанія змушена утримувати 100 дармоїдів, яких не можна звільнити. Це ще гірше, ніж відпустити їх на свободу і дати шанс на самовдосконалення.
Штучний інтелект — рівно те, що закладають його творці. Це не людська думка, її замінити не можна. А штучний інтелект не зазіхає ні на що, тому що у нього немає бажань.
Є багато правильних речей. Все так лаються на нашу телемедицину просто від нерозуміння, які можливості є. У віддаленому селищі Якутії фельдшер лікував, як міг, а тут раптом можна і з професором порадитися, причому з об’єктивних історіям з нормальною діагностикою. Трохи ще доопрацювати і щоб професор практично вже руками дотягнувся через 7 тис. км і помацав.
Я краще скажу, чого не буде. Хотілося б, щоб у нас відбувся стрибок з транспортом, логістикою і дорогами, але він не відбудеться в найближчі 20 років. Ми будемо продовжувати ремонтувати і будувати в тому ж ритмі. Не буде нових видів транспорту, які ми сьогодні не можемо передбачити: ні літаючих автомобілів, ні безпілотників для життя. Будемо жити, як зазвичай: не дуже щасливо, не дуже добре і багато працювати.
