Роботы вторгаются на нашу территорию, - Черниговская

«Если все отдадим на откуп механизмам - чем сами займемся»? - один из вопросов выступления профессора СПбГУ, доктора наук Татьяны Черниговской на Гайдаровском форуме 2018

- Когда компьютеры научились обыгрывать людей в шахматы, все говорили, что с покером такое не пройдет. Способность блефовать – все это сугубо человеческое. Но вот создана программа Libratus, которая разнесла в пух и прах профессиональных игроков. И дело здесь не в играх. Искусственный интеллект приобрел черты не только алгоритмические. То есть, роботы вторгаются на нашу территорию.

Мы уже находимся в другой цивилизации. Не стоит делать вид, что искусственный интеллект где-то в будущем. Будущее уже здесь. То, на что раньше уходили тысячелетия, потом столетия, потом десятилетия, сейчас занимает месяцы, часы и дни. Мы разогнались, и летим с большой скоростью. Наш мир текучий, нестабильный, гибридный. Это другой мир, не тот, в котором мы жили еще пять лет назад. И это необратимые перемены, которые имеют глобальное значение. Мы просто должны это осмыслить.

Мир стал нечеловекомерен. Появились величины и пространства, в которых мы не живем: наносекунды, нанометры. Но все это уже влияет на нашу цивилизацию, и мы должны знать, как в этом мире жить, что нам делать, какое получать образование.

Интернет вещей, самоорганизация сетей: цифровая реальность начинает быть игроком на поле эволюции. Если я умею всем этим пользоваться, не просто на кнопочки нажимать, а по-настоящему разбираюсь, я попадаю в одну категорию людей. А если только блины умею жарить в другую. Как в этом новом мире жить?

Когда системы дополненной реальности способны создать полный эффект присутствия, как не потерять базовые представления о том, в каком на самом деле мире мы находимся? Как научить роботов принимать сложные решения? Внутри цифрового мира такие категории как мораль и право имеют совершенно другие конфигурации.

Например, беспилотник сбивает пешехода. Кто за это отвечает? Или машина встает перед выбором, который есть, пожалуй, в каждом учебнике психологии: повернешь направо — собьешь пять человек, повернешь налево — одного человека. Куда ей сворачивать? Решение должно быть заложено в машину изначально. То есть, мы сразу должны запрограммировать моральные категории. Как это сделать? Кто должен принимать такие решения?

Допустим, мы все отдадим на откуп механизмам. А чем сами займемся? Рассказы о том, что люди, освободившись от рутины, начнут писать сонеты, вызывает у меня улыбку. Праздная цивилизация! Уже и термин такой появился – лишние люди.

Для нашей цивилизации действительно настало время остановиться и подумать: мы куда попали? Мы не сможем переварить эту цивилизацию, если у нас не будет серьезных внутренних ориентиров. Мы очень о многом должны подумать.

Далее - видео на тему...