Компанія Google оновила свої етичні принципи щодо штучного інтелекту, видаливши з них заборону на використання цієї технології у зброї та системах спостереження. Про це повідомляє WP.
До 30 січня на сторінці принципів Google містився розділ «Застосування, які ми не будемо розвивати», де серед заборонених напрямків значилися саме зброя, спостереження, технології, що можуть завдати загальної шкоди, та розробки, що суперечать міжнародному праву та правам людини. Однак у новій версії ці положення були видалені.
Як пояснили у блозі керівник Google DeepMind Деміс Хассабіс і старший віцепрезидент компанії з питань технологій і суспільства Джеймс Маніка, зміни пов’язані з тим, що штучний інтелект став значно поширенішим, а також з необхідністю підтримки урядів та національної безпеки демократичних країн.
«Світ перебуває у стані глобальної конкуренції за лідерство у сфері ШІ в умовах складного геополітичного ландшафту. Ми вважаємо, що саме демократії повинні очолювати розробку штучного інтелекту, спираючись на такі основні цінності, як свобода, рівність та повага до прав людини», – заявили представники компанії.
Оновлені принципи передбачають використання людського нагляду та врахування зворотного зв’язку, щоб забезпечити відповідність технологій «широко визнаним принципам міжнародного права та прав людини». Крім того, компанія заявила, що тестуватиме свої розробки, щоб «зменшити непередбачені або шкідливі наслідки».
Представник Google відмовився відповідати на конкретні питання щодо політики компанії у сфері розробки зброї та систем спостереження.
Нагадаємо, що у 2018 році Google вперше оприлюднила свої принципи ШІ після протестів співробітників проти контракту з Пентагоном у рамках проекту Maven, який використовував комп’ютерний зір для аналізу відеозаписів з дронів. Тоді компанія відмовилася продовжувати співпрацю.