искусственный интеллект это хорошо или плохо

Тёмная сторона искусственного интеллекта: так ли ИИ хорош, как нам говорят?

Что такое искусственный интеллект? Сейчас про него говорят чуть ли не из каждого угла: «первый смартфон с искусственным интеллектом», «камера с искусственным интеллектом» и так далее. Маркетологи очень хорошо научились относить к ИИ любую вычислительную работу, которую осуществляет то или иное устройство, будь это телефон, планшет или автомобиль. На самом деле всё это — по большому счёту игрушки. Настоящий искусственный интеллект недоступен большинству, и он, похоже, станет для этого века таким же золотоносным, как нефть в прошлом. Его разработкой занимаются государства и корпорации с миллиардным финансированием — только в США инвестиции в ИИ за прошлый год составили более 25 миллиардов долларов. И такой искусственный интеллект несет в себе не только плюсы, но и опасности.

artificial

Многие недооценивают опасность искусственного интеллекта. И нет, речь не о фильме «Терминатор»

Недавно я прочитал очень хорошую книгу по этой теме, «Темная сторона искусственного интеллекта» от Станислава Петровского, которая вышла на издательской платформе Ридеро. Раньше я изучал в основном труды зарубежных учёных, но в этот раз тема оказалась мне очень близка. Тем более автор книги — кандидат юридических наук, работал старшим научным сотрудником Института государства и права Российской академии наук. Он более 20 лет исследует правовое регулирование информационных технологий и является лауреатом Всероссийского конкурса законодательных инициатив в области защиты прав человека. Уж он точно разбирается не только в вопросах высоких технологий, но и в их влиянии на жизнь человека, в том числе на самом высоком уровне.

Проблемы искусственного интеллекта

Нет, в этой книге нет теорий заговоров или историй, как в будущем терминаторы уничтожат человечество. Автор поднимает гораздо более насущные проблемы, связанные с правами и свободами граждан, которые возникают уже сейчас. Сюда относится и чёрный рынок персональных данных (вспомните, когда вам в последний раз звонили банковские мошенники), и тотальная слежка, и монополизм социальных сетей, и гаджетомания на уровне самых молодых поколений. Не говоря о том, что всё это вместе и по отдельности используют уже сейчас при государственных переворотах.

Искусственный интеллект может стать «Бессмертным диктатором», — Илон Маск, глава Tesla и SpaceX.

Уже во введении автор описывает, как продвигается международная гонка в сфере искусственного интеллекта. Я, например, не знал, что в 2017 году были утверждены Азиломарские принципы ИИ, которые договорились соблюдать крупнейшие компании и эксперты ИИ всего мира, но сейчас их все нарушают. Очень советую главы «Естественный интеллект» и «Что называют искусственным интеллектом»: там автор как раз описывает, что такое ИИ на самом деле — поднимает ту самую проблему, о которой я писал в самом начале этой статьи. Очень понятным языком описана разница между сильным ИИ (искусственным разумом), которого пока не существует и слабым (специализированным) ИИ, который уже внедряется. Описываются основные направления применения ИИ, история побед ИИ над человеком, а также сценарии угроз человечеству при создании сильного ИИ.

Чем опасен ИИ

Отдельно в книге разбирается проблема «дипфейков» (deep fake). Уже сейчас с помощью искусственного интеллекта можно создать подделки видео и голоса не отличимые от правды на глаз, а часто и с помощью экспертизы. Одним из ярких примеров является недавнее видео с Томом Крузом, на котором на самом деле не он, а его копия deep fake. Даже эксперты не смогли с первого раза заметить подделку, что говорить об остальных?

Также в книге обсуждаются как недоработки ИИ (например, в случае ошибочного срабатывания системы распознавания лиц), так и его опасность для многих людей, ведь внедрение ИИ приведет к исчезновению одних и появлению других профессий, что в ближайшее десятилетие может привести к самой большой безработице за последние сто лет. Не говоря уже о безграничной власти ИТ-гигантов, которую им дают разработки, связанные с ИИ (глава «Монополизация всего»).

Ну и, конечно, автор не обошёл стороной угрозу персональным данным, которая есть УЖЕ сейчас. Вы знаете, например, скольким организациям даёте разрешение на обработку персональных данных, когда подписываете невинную на первый взгляд форму в Интернете? Сколько взломов хакеры производят каждый год?

У меня остались только положительные эмоции от прочтения книги «Темная сторона искусственного интеллекта», она заставляет серьёзно задуматься о том, что ожидает нас уже через несколько лет при таком же уровне развития технологий. Советую почитать, она будет интересна всем, кто хочет узнать, как современные информационные технологии влияют на общество, а не только экспертам по искусственному интеллекту.

Источник

Искусственный разум станет лучшим или худшим изобретением

100106763 robotai

В течение многих десятилетий такое понятие, как искусственный интеллект принадлежало исключительно научной фантастике и вдохновляло писателей и сценаристов на создание сюжетов, описывающих драматические взаимоотношения людей и разумных машин. Все начало меняться несколько лет назад, а начало 2016 года стало бенефисом реально существующих систем искусственного интеллекта. О том, какое будущее нас ждет, рассказывает обозреватель m24.ru Дмитрий Бевза.

Искусственный интеллект — это хорошо или плохо

Предприниматель Джон Шаловиц считает, что у многих людей сложилось ошибочное представление о том, что такое искусственный интеллект. В своей заметке на Medium он попробовал развеять самые популярные заблуждения.

Сначала были тамагочи — цифровая игрушка-питомец, которая обрела невероятную популярность в конце 90-х. Потом появилась робособака Aibo, а за ней — робот Pepper, умеющий считывать эмоции. Сейчас производит фурор гуманоидный робот София.

ext foto 1

Искусственный интеллект окружает нас в той или иной форме вот уже многие годы. Но люди все равно боятся «восстания ИИ». Но это глупо. В одной из недавних поездок в Японию мне удалось пообщаться с тремя роботами Pepper. Было очень интересно наблюдать, как реагируют на них люди, которые, казалось бы, не интересуются технологиями. Они буквально загорались изнутри и проникались внезапной любовью к роботам. Все их страхи, связанные с ИИ, исчезали в мгновение ока.

Я считаю, что искусственный интеллект может значительно улучшить нашу жизнь. Но если мы будем его бояться, то так никогда и не раскроем его потенциал. Поэтому я бы хотел развеять несколько популярных заблуждений об этой технологии.

ИИ — это не только роботы

Нашим представлениям о том, как выглядит искусственный интеллект, мы во многом обязаны Голливуду. Когда мы говорим о роботах, мы вспоминаем Двухсотлетнего человека, Wall-E или андроидов из «Я, робот». Мы представляем роботов похожими на нас и обладающими человеческими качествами. Такое представление дает нам чувство комфорта — гораздо проще принять взаимодействие с тем, что как-то напоминает нас самих.

ext foto 2

Но ИИ это гораздо большее, чем просто гуманоидные роботы. Возможности применения этой технологии безграничны. Сейчас искусственный интеллект помогает ученым предсказывать землетрясения, убирает наши дома, рассчитывает стоимость страховки автомобиля и используется в тестировании лекарств — и это лишь часть его возможностей. В общем ИИ улучшает продуктивность и дает нам больше свободного времени.

Читайте также:  нори кэмерон теннис рейтинг

ИИ не лишит нас всех работы

Я постоянно слышу, как люди говорят, что искусственный интеллект заберет у них работу.

Я понимаю, откуда берутся эти опасения: СМИ часто публикуют удручающую статистику. Например, недавнее исследование показало, что в ближайшие десять лет автоматизация сократит четыре миллиона рабочих мест в частном секторе Великобритании. А в США 47% рабочих мест считаются «находящимися в зоне риска» ликвидации из-за ИИ.

Но несмотря на негатив в прессе, есть ряд причин, почему нельзя терять надежду на светлое рабочее будущее.

ext foto 3

Благодаря ИИ становится понятно, насколько важен человеческий опыт. Технология прекрасно справляется с автоматическими задачами, но ей не превзойти человека в эмпатии, суждениях, отношениях и общем жизненном опыте. Многие люди путают искусственный интеллект с искусственным сознанием. ИИ хорош в решении проблем, но он плохо умеет сопереживать.

Как решать проблему с ИИ

Все просто. Практически просто. На данный момент ИИ — это лишь код в играх и некое подобие человека, которое создает лишь иллюзию разума. На самом деле там прописано каждое действие.

А НАСТОЯЩИЙ ИИ — это тот алгоритм, о котором люди не будут знать, он будет сам по себе работать и развиваться, но люди должны знать о знаниях робота. Они должны фильтровать каждое полученное знание, они должны создать карцер на Алькатрасе для робота, чтобы тот если и сбежит, то сбежит в тюрьму, а не из нее.

ext foto 4

Учить робота тоже самое, что учить ребенка, это плохо, то плохо.

Но почему вырастают маньяки, убийцы? Учителя были плохими, а где найти хорошего учителя для робота, ведь каждого можно подкупить, пригрозить ему смертью или вообще поставить на этот пост своего человека.

Источник

Искусственный интеллект: за или против?

Участники опросов видят преимущества искусственного интеллекта, но опасаются, что он принесет выгоду обеспеченным слоям населения, вред малоимущим и социальные потрясения обществу

По итогам опроса 91 % руководителей и 84 % обычных граждан считают, что приход ИИ ознаменует новую технологическую революцию. Вместе с тем участники обеих фокус-групп всерьез опасаются последствий внедрения ИИ для общества, бизнеса и государства. Респонденты привели целый круг возможных проблем — от умных игрушек, которые будут вторгаться в личное пространство ребенка, до ухудшения условий жизни малоимущих и утраты человеком интеллектуальных способностей.

«Наше исследование направлено на изучение различных аспектов внедрения искусственного интеллекта в жизнедеятельность человека — от очевидных положительных сторон (улучшение качества здравоохранения, совершенствование производства) до множества противоречивых опасений, связанных с его масштабным внедрением в повседневную жизнь, — пояснил Санджей Наир (Sanjay Nair), руководитель глобального технологического сектора агентства Edelman. — По нашим наблюдениям, опрошенные в обеих фокус-группах проявляют интерес к искусственному интеллекту, но при этом в значительной мере обеспокоены тем, что распространение ИИ приведет к росту безработицы, еще большему материальному неравенству и социальной изоляции».

Ключевые выводы, сделанные в ходе исследования:

«Исследование коммуникационного агентства Edelman в области искусственного интеллекта поднимает широкий круг вопросов, — заявила Кей Ферт-Баттерфилд (Kay Firth-Butterfield), возглавляющая программу ВЭФ по искусственному интеллекту и машинному обучению. — Из полученных результатов четко следует, что представители бизнеса и правительства должны комплексно оценить множество проблем, существующих в сфере ИИ, и принять соответствующие меры, поскольку потенциальные негативные последствия прихода ИИ могут свести на нет все плюсы этих технологий. Мировому сообществу нужно знать о факторах риска, связанных с такой глубокой трансформацией, и подготовить условия, в которых искусственный интеллект будет приносить пользу всем людям».

Полное исследование представлено по ссылке:

Источник

Он – робот: почему искусственный интеллект – это важно

nBkSUhL2g1Mhmcm3PqzJrMCqzJ3w pui1inGh fH nKUPXuaDyXTjHou4MVO6BCVoZKf9GqVe5Q CPawk214LyWK9G1N5ho=BFn1umQV5PHlsholw0RqXg

Фото: m24.ru/Михаил Сипко

Искусственный интеллект наступает

Если быть точным, то череда информационных поводов, каждый из которых достоин большой статьи, началась в декабре 2015 года, когда культовая фигура современного хайтека предприниматель Илон Маск (Tesla Motors, SpaceX) вместе с соснователем PayPal Питером Тилеми и главой венчурного фонда Y Combinator Сэмом Альтманом заявили о создании некоммерческой организации OpenAI и об инвестициях в нее в размере миллиарда долларов.

OpenAI – это исследовательская компания, занимающаяся ИИ (искусственным интеллектом). По заявлению учредителей, цель компании – развивать открытый и дружественный искусственный интеллект. Открытость призвана избежать концентрации власти, которую дает ИИ, находящийся в одних руках.

4 января в Лас-Вегасе в рамках СЕS – крупнейшей мировой технологической выставки, глава компании NVIDIA Дженсен Хуанг провел впечатляющую презентацию нового автомобильного суперкомпьютера Drive PX2, позволяющего управлять автомобилем без водителя, рассказал о разработках NVIDIA в области глубинного машинного обучения и компьютерного зрения.

Еще одним интересным событием, непосредственно связанным с искусственным интеллектом, стал проводящийся в Японии литературный конкурс имени писателя-фантаста Хоси Синъити. В этом году из полутора тысячи произведений 11 было написано с помощью ИИ, а повесть «День, когда компьютер написал роман» вышла в финал конкурса. Повесть была написана искусственным интеллектом, разработанным в университета Хакодате.

Отличным прогнозистом оказался китайский ИИ Aliyun, созданный интернет-гигантом Alibaba Group. В начале апреля он смог предсказать победителя и финалистов популярного в Китае музыкального шоу «Я певец». Победитель этого шоу определяется слепым (без предварительных совещаний) голосованием 500 судей.

nBkSUhL2g1Mhmci PqzJrMCqzJ3w

Фото: АР/ТАСС/Ahn Young-joon

Говоря о искусственном интеллекте, стоит отметить один поразительный момент. Несмотря на колоссальный прорыв, который произошел за последние 30 лет в области информационных технологий, и триллионы инвестиций в IT, работы по разработке ИИ все это время испытывали хроническое недофинансирование и только в последние несколько лет туда пришлю серьезные деньги.

Что в данном случае первично, инвестиции, которые принесли отдачу, или успехи разработчиков ИИ, которые заметил большой бизнес, в общем, неважно. Главное, что дело сдвинулось с мертвой точки.

Что же вообще такое – искусственный интеллект?

Академического определения ИИ еще не сложилось, однако специалисты считают, что отличительная особенность искусственного интеллекта – способность, в отличие от обычной компьютерной программы, к выполнению интеллектуальных и творческих задач.

Современных концепций создания ИИ довольно много. Но на самом базовом уровне они отличаются тем, что одни пытаются копировать человеческое мышление – семиотический подход, а другие строятся по принципу биологических нейронных сетей, моделирующих интеллектуальную деятельность на основе природных эволюционных алгоритмов – биологический подход.

На сегодняшней день самые заметные успехи достигнуты во втором направлении. Машинное обучение, а точнее глубинное машинное обучение (Deep Learning) – сейчас считается самым перспективным в создании ИИ.

В чем же отличие, созданных фантастами и транслируемых поп-культурой, образов могучих разумных машин из «Бегущего по лезвию бритвы», «Терминатора» и «Матрицы» от реально существующих искусственных интеллектов?

Разумеется в научно фантастике необходимость создания драматических сюжетных коллизий диктует практически обязательный конфликт между машиной и человеком. Но главное не это.

Во-первых, все художественные концепции искусственного интеллекта антропоцентричны. То есть, такие ИИ напоминают своим поведением людей, а взаимоотношения человека и машины в научной фантастике практически ничем не отличаются от взаимоотношений людей разных национальностей, религий и культур. Но если посмотреть на самые успешные из уже существующих ИИ, то они не руководствуются человеческой логикой, а базируются на искусственных нейронных сетях и, образно говоря, напоминают не человека, а разумную планету. Отдадим, впрочем, должное современным НФ-писателям, такие сюжеты в современной фантастике тоже есть.

nBkSUhL2g1MhmcazPqzJrMCqzJ3w pui1inGh fH nKUPXuaDyXTjHou4MVO6BCVoZKf9GqVe5Q CPawk214LyWK9G1N5ho=ef0SO3pNYm4qw 4CgDzqFw

Фото: YAY/ТАСС/William Attard McCarthy

Во-вторых, все эти умные машины из фантастических фильмов и книг способны сами ставить себе цели и пытаться их добиться.

Реально же существующие ИИ-системы даже в теории на такое не способны.

Читайте также:  настройся на хорошее реклама воды

Разработчик искусственного интеллекта компании «Яндекс» Александр Крайнов считает это принципиальным моментом, отличающим мышление ИИ от человеческого. ИИ может решать только те задачи, которые перед ним ставит человек и неспособен к целеполаганию.

А может ли ИИ представлять опасность?

ИИ тоже может быть опасен. Но не как враждебная людям сила. Он может быть опасен именно как инструмент в руках злоумышленников. Поскольку обучают ИИ люди, они же и задают параметры обучения. Соответственно, человек и отвечает за то, какой ИИ мы в итоге получаем.

Процесс обучения ИИ интересен еще и тем, что люди не только задают параметры обучения, но и сами становятся объектами и примерами для обучения искусственного интеллекта.

Тот же AlphaGo, перед тем как обыграть Ли Седоля, проанализировал тысячи партий лучших игроков в ГО, а потом сыграл еще миллионы партий сам с собой.

Есть и другой пример обучения ИИ, несколько менее удачный, но тоже очень яркий. Это англоязычный чатбот Тэй компании Microsoft, который запустили в социальной сети Twitter в образе девушки тинэйджера. За 24 часа Тэй, общаясь с пользователям, превратилась из дружелюбного собеседника в малоадекватное существо и стала публиковать посты антисемитского, расистского и шовинистического содержания. В итоге компания удалила твиты Тэй и принесла извинения пользователям.

Причем ранее чатбот Сяоайс, созданная на базе того же самого ИИ, блестяще работала в китайском сегменте интернета и пользовалась колоссальной популярностью. Сяоайс заработала в мае 2015 года в социальных сетях WeChat и Weibo, а позднее, придав ей визуальный образ, Сяоайс сделали ведущей выпуска прогноза погоды на китайском телеканале. За несколько месяцев она вошла в десятку самых популярных персон соцсети Weibo и провела несколько миллиардов диалогов с людьми.

Тем удивительней на первый взгляд неудача Тэй в Twitter. Причина, однако, оказалось очень простой – разная аудитория Twitter с одной стороны и WeChat и Weibo – с другой. Общаясь и обучаясь на более агрессивных и провокационных диалогах в Twitter, Тэй сама стала и вести себя как ее собеседники.

На сегодняшнем уровне развития, разумеется, никакой ИИ не может представлять собой опасность. Но даже в теории создать злой ИИ может только человек, и научить плохому ИИ может тоже только человек.

Что может искусственный интеллект?

По мнению представителя компании NVIDIA Ирины Шеховцовой все, что связано с распознаванием информации, продуктов, музыки, речи, жестов, видео – все это будет рано или поздно управляться искусственным интеллектом. «Большой потенциал в развитии ИИ связан с робототехникой, финансовыми услугами и безопасностью, самоуправляемыми автомобилями», – считает Шеховцова.

ИИ уже используется в поисковых машинах «Яндекса», Google, Microsoft, Baidu, в компьютерном зрения, при финансовом анализе, в различных экспертных системах.

Одно из направлений использования ИИ – возможность общения на естественном языке с разнообразными компьютерными интерфейсами и интернет-сервисами. Причем, это уже не далекое будущее, а реальность. Коммерческих чатботов в соцсетях и мессенджерах запустили или планируют запустить в ближайшее время тысячи компаний. Благодаря ИИ, распознавание и синтез речи выходят на новый уровень. Соответственно, можно ожидать прорыва и в области машинного перевода, как текстового, так и голосового.

nBkSUhL2g1Mhmce3PqzJrMCqzJ3w pui1inGh fH nKUPXuaDyXTjHou4MVO6BCVoZKf9GqVe5Q CPawk214LyWK9G1N5ho=724l0cw6mQN a5Ko3Gl2Ew

До сих пор люди выполняют огромное количество тяжелых рутинных рабочих процессов. Причем, если на производстве научились более или менее успешно их автоматизировать – на современных роботизированных фабриках и складах могут работать буквально несколько человек, то сферу обслуживания, офисы, госучреждения, транспорт и СМИ сейчас сложно себе представить без участия людей. Но, возможно, лет через 10 ситуация принципиально изменится. Использование ИИ в роли юридических, бизнес и медицинских консультантов, с одной стороны, уменьшит стоимость таких услуг, с другой – повысит их качество. Хороший пример использования ИИ – отслеживание транспортных и охранных камер наблюдения. Сейчас этим занимаются операторы, но современный ИИ уже может не только распознать внештатную ситуации, но и классифицировать ее, проанализировать и предпринять соответствующие действия.

В принципе, любой процесс, выполняемый по определенным алгоритмам, каким бы человеческими и сложными они не казались, можно передать ИИ. Это касается и консультаций у доктора или адвоката, написания новостей в СМИ, разработки бизнес-планов и маркетинговых стратегий, ведения бухгалтерии, работы госчиновников и многого другого.

Интересно, что многие эксперты видят перспективы использования ИИ не только в более или менее шаблонных рабочих процессах, но и в тех, которые традиционно считаются творческими. Теоретически ничто не мешает ИИ, конечно более развитым и обученным чем сейчас, писать художественные тексты, поп-музыку, картины или снимать кино.

Впрочем, это скорее говорит не об очеловечивании ИИ, а о том, что мы несколько переоцениваем свой творческий потенциал, и большая часть создаваемого даже людьми креативных профессий – это добротный, качественный и профессиональный продукт, созданный по жестким стандартам, освоить которые по силам и ИИ.

Искусственный интеллект – это хорошо или плохо?

ИИ – это не просто хорошо. Это очень хорошо. Он может освободить человеческие ресурсы для настоящей интеллектуальной и творческой деятельности. Более того, выполняя рутинные процессы, ИИ может стать неоценимым помощником для решения сложных задач, где требуется интеллектуальный или творческий прорыв. Также, очевидно, что массовое внедрение ИИ откроет путь к появлению новых профессий (и созданию новых рабочих мест), которые мы пока даже не можем себе представить.

Остается открытым вопрос – насколько люди готовы в реальной жизни взаимодействовать с искусственным интеллектом. Есть разные точки зрения, но с учетом возрастающей виртуализации нашего общения, которое все больше происходит не лицом к лицу, а по телефону, в электронных письмах, чатах, соцсетях, нам по большому счету неважно, кто на том конце провода примет заказ, ответит на вопрос, решит проблему – реальный человек или искусственный интеллект. Так что, скорее всего психологическое привыкание людей к общению с ИИ произойдет намного быстрее, чем нам кажется.

Источник

Искусственный интеллект: будущее цивилизации или ее убийца?

Хороший искусственный интеллект

Давайте разберем несколько примеров использования искусственного интеллекта (включая машинное обучение — метод построения алгоритмов, способных обучаться самостоятельно, без внешней поддержки).

В 2014 году новостное агентство The Associated Press начало использовать технологию автоматического создания финансовых отчетов Wordsmith, разработанную компанией Automated Insights. Программа анализирует финансовые данные, сопоставляет их друг с другом, отмечает ключевые цифры в отчетах компании, а затем переводит все это на человеческий язык. Вы никогда не отличите историю, написанную «машиной», от той, за создание которой отвечал человеком. Хотя, нет, отличите: машина не ошибается и не оставляет в тексте опечаток.

Говорит Джеймс Котеки, один из ведущих специалистов Automated Insights:

Wordsmith пишет тысячи финансовых новостных заметок, которых в противном случае просто не существовало бы. Wordsmith работает со скоростью и масштабом, недоступными человеку. Наша технология позволяет журналистам делать более интересную работу.

При этом Wordsmith постоянно обучается. Как это происходит: выборочно проверяются подготовленные заметки и отмечаются места, которые можно было сделать лучше. Программа принимает во внимание эти правки и перестраивает алгоритм своей работы.

Wordsmith — классический пример машинного обучения, одного из важных шагов на пути к созданию полноценного искусственного интеллекта. Но это — верхушка айсберга. Все эти встроенные подсказки в Word и при наборе текста на смартфоне — также составная часть машинного обучения, постоянно совершенствующая алгоритмы своей работы.

Еще одно перспективное поле деятельности для создателей искусственного интеллекта — автомобили, которым не нужны водители. Новости об успехах умных машин Google, колесящих по дорогам США, появляются раз в несколько недель. Американской компании есть чем гордиться и что показывать правительству: в прошлом году ее чудо-автомобили проехали только в одном регионе США около 10 000 миль, ни разу не нарушив правил дорожного движения и не попав в аварию. За прогрессом Google в этом направлении внимательно следят не только компании, работающие на рынке грузоперевозок, но и юристы, специализирующиеся на дорожно-транспортных происшествиях.

Читайте также:  всероссийский конкурс лучший гид россии

Эрик Теркивитц из Нью-Йорка написал в своем блоге об угрозе со стороны автоматически управляемых машин для бизнеса юристов, занимающихся решением дорожных конфликтов и помощью пострадавшим людям:

С уменьшением количества человеческих ошибок (ввиду внедрения автоматических технологий остановки или замедления автомобилей) уменьшится число раненных людей и поврежденных машин. Уменьшится число смертей. Цена вашей страховки также (теоретически) уменьшится. А это значит, что уменьшится и объем работы, который я выполняют как юрист, защищающий пострадавших.

Однако Эрик — не карикатурный юрист-кровопийца. Дальше он говорит, что также является водителем, поэтому может только поддержать будущее, к которому стремится Google. Да, ему придется найти другую работу, но это и есть цена, которую придется заплатить за прогресс в вопросе безопасности на дорогах. По данным Всемирной организации здравоохранения, ежегодно в мире в результате ДТП погибает около 1 300 000 человек. Просто вдумайтесь в эту цифру!

Но Эрик — не единственный профессионал, который рискует потерять работу в ближайшие 15-20 лет. Добавьте к нему водителей, грузчиков, операторов колл-центров и еще сотни профессий, искусственную замену которым пытаются создать десятки компаний, занимающихся вопросами искусственного интеллекта и машинного обучения.

Недавно эту тему на форуме «Открытые инновации», прошедшем в Москве, обсуждали Нуриэль Рубини, один из самых известных экономистов мира, и его коллега из России —Андрей Мовчан. Вот несколько тезисов из их диалога:

Стоит отметить, что жить человек станет лучше. Благодаря повсеместному внедрению автоматизации уменьшится стоимость продуктов питания и других благ. То есть на то, чтобы жить комфортно, мы станем тратить значительно меньше денег, а значит сможем меньше работать. Двух-трехчасовой рабочий день может стать нормой, все остальное время человек будет посвящать саморазвитию — духовному, интеллектуальному, физическому.

Или нас всех убьют роботы.

Плохой искусственный интеллект

В начале этого года на сайте американского Института будущего жизни (The Future of Life Institute), с которым сотрудничает предприниматель Илон Маск, директор Оксфордского университета будущего человечества (Oxford Future of Humanity Institute) Ник Бостром, профессор генетики Гарвардского университета Джордж Черч и многие другие, появилось открытое письмо, в котором ученые призывают коллег внимательнее отнестись к проблеме будущего искусственного интеллекта. Главный вопрос, который задают ученые: сможет ли человек контролировать машину, получившую разум? Понятно, что пока никто не может ответить на этот вопрос.

Выдержка из открытого письма:

Из-за огромного потенциала искусственного интеллекта важно понять, как использовать его плюсы, избегая подводных камней, кроющихся в этой технологии. Наши ИИ-системы должны делать то, что мы хотим, чтобы они делали.

В этой фразе («Должны делать то, что мы хотим, чтобы они делали) и заключается основная проблема с пониманием будущего искусственного интеллекта. Американский ученый Элиезер Юдковски в своей книге «Искусственный интеллект как позитивный и негативный фактор в глобальных рисках» описывает два возможных сценария поведения искусственного интеллекта (из миллионов), когда мы сможем сказать «да, это интеллект, который не зависит от воли человека»:

Известный физик-теоретик Стивен Уильям Хокинг считает, что полноценный искусственный интеллект, о котором пишет Юдковски, способен «положить конец человеческой расе». Схожего мнения придерживается Маск и ряд крупнейших ученых, занимающихся этим вопросом. Всех беспокоит один вопрос: «Если искусственный интеллект заменит нас на работе, то не захочет ли он в определенный момент заменить нас дома?»

Интересно и то, как современные ученые интерпретируют само понятие «искусственный интеллект». Единого понимания этого термина не существует, зато есть пусть и не до конца принятое, но логичное разделение искусственного интеллекта на три очевидных типа:

На сегодня человечество успешно освоило принципы построения первого типа искусственного интеллекта. Это и автомобили Google, и система Wordsmith, и спутниковая навигация, когда за вас просчитывается наиболее удобный путь от одной точки до другой, и даже Siri, способная распознавать речь. Вся поисковая система Google — это один большой ограниченный интеллект, который, используя принципы машинного обучения, постоянно улучшается — частично без вмешательства со стороны человека.

Следующий шаг — создание искусственного общего интеллекта. Над ним работает сразу несколько крупных компаний и ученых групп. В 2014 году Google приобрела компанию The DeepMind, которая занимается разработкой алгоритма «углубленного машинного обучения». То есть созданием системы, которая может самостоятельно поднимать один пласт знаний за другим, а затем совмещать эти знания друг с другом и делать самостоятельные выводы. Если говорить упрощенно, то речь идет о критическом восприятии информации: система учится соединять факты друг с другом и выстраивать логические цепочки. То, чему мы учим детей с ранних лет.

Ранее Google купила DNNresearch, занимающуюся разработкой «умных» систем распознавания изображений и речи, а также другими научными исследованиями, а в 2013 году изданию The New York Times стало известно, что компания буквально скупает стартапы, работающие над созданием роботов нового поколения. Эту часть работы в компании курировал Энди Рубин, человек, стоявший за разработкой Android. За полгода он купил семь (!) компаний, работающих на рынке робототехники.

Google — не единственная компания, которая пытается выйти за рамки «ограниченного интеллекта», но одна из самых богатых. Многие верят, что именно ей удастся первой пересечь границу и представить миру «общий интеллект».

Поэтому Институт будущего жизни, а также другие научные учреждения и крупные ученые бьют тревогу: мы стоим на пороге феноменального открытия, которое может кардинально поменять нашу жизнь. И думающие люди хотели бы на берегу договориться о правилах игры. Прежде чем будет слишком поздно.

Будущее

Для того чтобы это открытие было совершено, ученым нужно решить несколько важных задач.

Первая — нехватка вычислительной мощности. Есть предположение, что чтобы создать «общий интеллект», его «мощность» должна приблизиться к «мощности» человеческого мозга. Ученые регулярно спорят на эту тему, поэтому абсолютно достоверными данными о «вычислительной мощности» нашего мозга мы не обладаем.

Вторая — копирование паттернов мозговой деятельности. О том, как работает мозг, мы знаем многое, но что из этих знаний является нашими предположениями и допущениями, а что — фактами, увы, часто невозможно определить. Понятно, что если ученые хотят «повторить» человеческий мозг в электронном виде, то должны заложить в систему модель оперирования, характерную для человеческого мозга.

Третья — контроль. Создавая «электронную» личность, мы наивно предполагаем, что сможем через алгоритмы привить ей некий нравственный свод правил, который обезопасит человечество. Это примерно как воспитание ребенка: «это хорошо, а это плохо» — родители постоянно программируют детей, дети постоянно проверяют границы дозволенного. При этом мы знаем, что никакое образование и воспитание не дает стопроцентной гарантии, что ты не вырастишь маньяка или социопата. Могут ли ученые гарантировать, что «электронный» ребенок не свернет с проложенного разработчиками пути?

Если первые два вопроса являются дискуссионными, то третий — классическая «пугалка» как для обывателей, так и для самих ученых. Смогут ли они контролировать «общий интеллект»? Получится ли у них увидеть попытку «общего» интеллекта трансформироваться в «суперинтеллект»? В какой момент (если этот момент настанет) мы утратим контроль над ИИ? Какие задачи поставит перед собой сам ИИ, будет ли среди них — уничтожение человечества?

Cписок для дополнительного чтения по теме:

Источник

Поделиться с друзьями
admin
Adblock
detector