Вассерман: "Идея социального рейтинга красива и, возможно, осуществима, но, скорее всего, приведет к катастрофическим последствиям"

«На мой взгляд, идея социального рейтинга очень красива и, возможно, даже осуществима, но, скорее всего, приведет к катастрофическим последствиям» – заявил в начале своего выступления Анатолий. – В лучшем случае, соответствующим старому анекдоту:
– Я придумал машинку для бритья. Засовываешь в неё голову, и лезвие тебе всё лицо обрабатывает.
– А как она управляется? Ведь лица-то у всех разные.
– В первый раз – разные.

Частные рейтинги не могут быть сведены в общий для единой оценки человека.
Каждый отдельный рейтинг (такси, банковский скоринг) сугубо локальный – он оценивает каждого только в одном ракурсе и не может быть связан с другими рейтингами. Скажем, хам в такси вполне может быть аккуратным плательщиком по своим кредитам. Или наоборот, злостный задолженник может водить машину совершенно идеально. Поэтому вот такие вот частные рейтинги не могут быть сведены в общий рейтинг для единой оценки. Даже если вы попытаетесь это сделать, вы вряд ли сможете подобрать однозначный коэффициент при суммировании.
Поэтому частные рейтинги, неизбежные в большинстве случаев, полезны, а вот общий социальный рейтинг – это как философский камень. В поисках этого самого философского камня открыли так много, что в итоге создали целую науку химию, весьма полезную, а сам философский камень в рамках химии оказался совершенно неосуществимым.

То, что сейчас называют искусственным интеллектом – это имитация интеллекта. Интеллект – это то, что способно развиваться самостоятельно, собственными усилиями, по собственной инициативе. Самостоятельно ставить себе цели, оценивать продвижение к этой цели, самостоятельно обучаться на разнице между тем, как задумано и как получилось. Нынешняя система относимая к категории искусственного интеллекта, конечно, обучается, но на массивах данных подобранных и классифицированных людьми, качество их работы оценивают люди. Поэтому это бывает полезно, но это все-таки не интеллект.

Я помню времена, когда профессия бухгалтера считалась очень творческой. А сейчас примерно 99% этой работы берут на себя программы. При этом творческий компонент бухгалтерской деятельности автоматизировать пока не удалось и вряд ли удастся. Что это за творческий компонент? Когда обычный бухгалтер или юрист вам скажет, что то, что вы хотите сделать, неосуществимо на основе пунктов каких-то, инструкций каких-то. А хороший бухгалтер или юрист кэтому добавит: но если вы вот этот пункт своих пожеланий переформулируете таким-то образом, этот пункт отложите и попробуете его осуществить в другое время и в другом месте, то все остальное вполне осуществимо на основании пунктов каких-то, инструкций каких-то. Эту часть деятельности бухгалтера или юриста автоматизировать не только не удалось, но никто еще не ставил такую задачу. Поэтому я уверен, что все имитаторы интеллекта действительно полезны и применимы для автоматизации уже накопленного людьми опыта. Но, к сожалению или к счастью, творческую часть нашей деятельности они на себя не брали и не возьмут в обозримом будущем. Но когда мы наконец создадим полноценный искусственный интеллект, то есть нечто способное самообучаться и самостоятельно ставить себе цели, то он будет реализован в каком-то искусственном теле. У него будут иные устройства для восприятия окружающего мира и воздействия на окружающих мир. Это значит, даже если мы создадим искусственный интеллект, соответствующий естественному, то он все равно дальше будет развиваться иначе, нежели человеческий. Это значит, во-первых, он будет нуждаться в иных ресурсах и не будет нам конкурентом. Во-вторых, он будет не хуже нас понимать полезность объемного взгляда на мир с разных точек зрения, значит будет нуждаться в нас не меньше, чем мы в нем. Ну и в-третьих, что очень важно, поскольку он будет развиваться нечеловеческим путем, мы вряд ли сможем предсказать все его достижения и возможности, что, как ни странно, открывает перед нами дополнительные перспективы. Мы сможем пользоваться не только тем, что придумали сами.

Надо не догонять, нам надо искать свой путь. Кстати, это не только к искусственному интеллекту относится.