1 000
Не позднее
31 декабря 2075
прогноз сбудется
Техника и наука

Искусственный интеллект уничтожит человечество в 2075 году

Ник Бостром - один из британских ученых считает, что ИИ будет развиваться очень быстро и уже к 2040 году, будет мыслить на 50% как человек, а дальше - больше...

Сводная информация по прогнозу редактировать информацию

Уничтожит ли искусственный интеллект человечество? Хроника событий, аргументы за и против прогноза.

Разработка ИИ-систем финансируется намного щедрее, чем исследование сопряженных проблем безопасности. Риски недооцениваются и игнорируются

10 февраля 2019 - Социальная сеть Facebook объединится с Мюнхенским техническим университетом (TUM) и поддержит его грантом в $7,5 млн для создания центра этики в сфере технологий искусственного интеллекта. Компания профинансирует изучение этических проблем в области новых технологий в течение 5 лет, говорится в ее блоге. Сотрудники TUM будут исследовать этические проблемы при применении робототехники, машинного интеллекта, а также изучать социальные последствия ИИ. Речь идет, в частности, об этических проблемах, которые машины должны будут решать согласно нормам пока не существующего законодательства.   https://incrussia.ru/news/institut-etiki-ii/

21 сентября 2018 - С 2016-го по 2017-й инвестиции венчурных капиталистов в промышленных роботов выросли в три раза – с $402 млн до $1,2 млрд за год (в 2012-м, для сравнения, стартапы-роботехи получили всего $195 млн). Еще больше вложили в проекты, обещающие создать AI для управления автомобилем. Они за год собрали $3 млрд – тоже в три раза больше, чем в 2016-м. (2)

21 августа 2018 - Разработка ИИ-систем финансируется намного щедрее, чем исследование сопряженных проблем безопасности. Кроме того, невозможно даже прикинуть масштаб происходящего, так как большинство компаний занимаются этим втайне от всех. И конечно, все они стремятся обогнать друг друга в этой гонке. Поэтому не тратят время на внятную оценку угроз достигнутых результатов. Основатель компаний Paypal, SpaceX, Tesla Илон Маск в августе 2015 года объявил о поддержке технологий противодействия искусственному интеллекту и вложил 7 миллионов долларов в исследования в этой области.  (1)

30 апреля 2018 - Сергей Брин озабочен быстрым развитием технологии искусственного интеллекта, об этом сообщило издание Wired. Брин отметил, что «такие мощные инструменты приносят с собой не только новые вопросы, но и ответственность». Сами работники Google не уверены в том, что компания движется в верном направлении. Многие подписали петицию против сотрудничества с Пентагоном. По этому договору Министерство обороны США сможет использовать ИИ для обучения дронов.   https://naked-science.ru/article/media/soosnovatel-google-sergey-brin

Исследования в области ИИ относительно дешевы. Прорыв способен совершить гений-одиночка в половине стран на карте мира

21 августа 2018 - Идет бесконечная модернизация технологических процессов при относительно низкой себестоимости таких исследований. В принципе, ими можно заниматься, сидя где-нибудь в кафе. Прорыв способен совершить гений-одиночка в половине стран на карте мира. Угроза носит наднациональный характер, но пока о совместной позиции речь не идет. Более того, если сейчас ввести жесткий контроль, например, в России, все сидящие в кафешках разработчики уедут в США. Наконец, гений-одиночка может появиться у нас, или в Индии, или в Бангладеш… А встречный, тройной (или в рамках Большой Двадцатки) договор о моратории риски не нивелирует. Но пусть даже появится компетентный международный регулирующий орган, который возьмет под контроль все текущие разработки, это не остановит уволенного из контролируемой структуры амбициозного разработчика.  (1)

16 августа 2018 - Сегодня в мире реализуют два крупных проекта, чья основная цель — действующая компьютерная модель мозга. В рамках первого — Brain Blue Gene, стартовавшего еще в 2005 году, исследователи создали искусственный аналог неокортекса крысы (части коры больших полушарий головного мозга), состоящего из 31 тысячи нейроновЧтобы смоделировать небольшой участок крысиного мозга (объемом всего 0,29 кубического миллиметра) и симулировать его работу, понадобились десять лет и вся вычислительная мощность суперкомпьютера Blue Gene (209 терафлопс), разработанного компанией IBM специально для этого проекта. https://ria.ru/science/20180816/1526608414.html

Технологии совершенствуются быстро. Ограничить желание человека совершенствовать ИИ практически невозможно.

21 сентября 2018 - Развитие искусственного интеллекта и робототехники начинает позволять машинам выполнять те задачи, с которыми до последнего времени могли справиться только глаза, руки и мозги людей. Прошлым летом Джилл Пратт, глава робототехники в агентстве DARPA, разрабатывающем технологии для Пентагона, сказал в интервью, что способности роботов пересекли ключевую черту. Улучшения в способе хранения электроэнергии и экспоненциальный рост мощности компьютеров теперь позволяют роботам принимать взвешенные решения, основанные на информации, полученной от других машин. Активность со стороны людей здесь теперь нужна только на этапе создания.  (2)

21 августа 2018 - С древности человек постоянно совершенствовал используемые механизмы. Таким образом, нелепо ожидать, что человечество не будет использовать то, что дает наука сегодня. Так, паровоз был на порядок «выносливее» лошадей, верблюдов или слонов. А двигатель внутреннего сгорания оказался эффективнее парового двигателя. И народы, которые не осваивали новшества, уступали свое место под солнцем. ИИ может быть частью сверхоружия. Если кто-то из этических соображений решит ИИ не создавать, первыми его построят соседи. Соответственно, идет бесконечная гонка, которая автоматически в какой-то момент приведет к созданию такого сверхоружия.  (1)

01 июля 2018 - Американская лаборатория OpenAI в конце июня объявила о победе искусственного интеллекта над игроками в Dota 2. Изначально каждый бот играл сам за себя. Однако они получили предписание заботиться о других членах команды. «Так они научились играть сообща, как единое целое», — цитирует Дэннисон Business Insider. Нейросети обучались самостоятельно, играя друг с другом в ускоренном режиме. Ежедневно они проходили столько миссий в Dota 2, сколько обычный человек прошел бы за 180 лет. Не все видят пользу в подобных разработках. Так, министерство обороны Великобритании опасается, что искусственный интеллект, отточивший свои навыки ведения войны на стратегических играх, превратится в оружие кибернападенияhttps://m.hightech.plus/2018/06/28/bill-geits

26 июня 2018 - Методику обучения ИИ-снайпера на основе видеоигр разработали Фрэнк Глэвин и Майкл Мэдден из ирландского Университета Гэлоуэя. Самообучаемого бота поселили в мире Unreal Tournament 2004. Этот хит 15-летней давности использовали потому, что для UT2004 есть обширная библиотека инструментов с открытым кодом, которые и применили создатели алгоритма. Как пишет Next Web, поначалу ИИ не мог оказать достойного сопротивления ни новичкам-людям, ни традиционным ботам с минимальными настройками агрессивности. Однако по мере обучения на сотнях и сотнях поединков алгоритм выработал стратегии прицеливания и стрельбы, которые поставили его на один уровень с самыми продвинутыми традиционными ботами и опытнейшими игроками.  https://hightech.plus/2018/06/25/ii-nauchilsya-pricelnoi-strelbe-po-mons...

16 августа 2017. Hi-News Пока все занимались обсуждением того, насколько ИИ может быть опасен, компания Nintex создала искусственный интеллект, который уже сейчас может лишить вас рабочего места, но, конечно, если вы будете плохим работником. Разработчики создали ИИ, который отвечает за контроль эффективности сотрудников. Он может следить за каждым, кто находится в офисе. Программа способна учитывать то, какие задачи выполняет тот или иной сотрудник, насколько качественно и быстро он справляется с работой. Она следит за всеми с самого первого дня, мониторя то, как со временем снижается или увеличивается производительность сотрудников, учитывая и то, сколько времени нужно новенькому для того, чтобы влиться в коллектив и начать приносить пользу. ИИ уже протестирован несколькими компаниями, которые, естественно, пришли ко вполне очевидному выводу – искусственный интеллект весьма хорош.

06 Августа 2017. Hi-News В минувшую среду прошла очередная встреча инвесторов Tesla, на которой Маск попытался дать объяснения словам, сказанным им ранее, которые вызвали бурю эмоций. Он постарался объяснить, что он совсем не против разработок ИИ как таковых. Он отметил, что сам является одним из председателей и соучредителей OpenAI, некоммерческой организации, ставящей целью «поиск и использование путей для разработки безопасного общего искусственного интеллекта». Как и цели OpenAI, опасения Маска связаны с необходимостью разработки четких стандартов развития ИИ.

01 Августа. Hi-News Разработчики DeepMind создали новый искусственный интеллект, способный использовать своё воображение для планирования дальнейших действий. Они «думают» о своих будущих действиях и лучше предугадывают, какие их поступки впоследствии окажутся наиболее правильными. Новый подход к планированию на основе воображения получил название I2As. Развитие искусственного интеллекта может получить новый виток, если программы научатся использовать воображение, память и начнут проявлять любопытство. Собственно, никто со 100% уверенностью не может сказать, в какую сторону заведет это любопытство, которое проявляет машина.

Вычислительная мощность компьютеров растет очень быстро, но до создания аналогичных человеческому мозгу нейросетей очень-очень далеко

04 октября 2018 - Суперкомпьютер Spiking Neural Network Architecture (SpiNNaker), в отличие от обычных компьютеров, подражает архитектуре массивной параллельной коммуникации мозга, посылая миллиарды малых объемов информации в тысячах разных направлений одновременно. Создатели компьютера намереваются смоделировать до миллиарда биологических нейронов в реальном времени. Один миллиард нейронов — это 1% от масштаба человеческого мозга, состоящего почти из 100 миллиардов нейронов, тесно связанных примерно одним квадриллионом (единица с 15 нулями) синапсов. Создателям этой машины понадобилось 20 лет на разработку концепции, 10 лет — на сборку, а еще 15 миллионов фунтов стерлингов. Суперкомпьютер впервые включили в пятницу, 2 ноября.   https://naked-science.ru/article/hi-tech/zapushchen-samyy-krupnyy

21 августа 2018 - Вычислительная мощность компьютера, согласно закону Мура, удваивается каждые 18 месяцев. Мы помним огромные железные шкафы, потом железные ящики на каждом рабочем месте в офисах, теперь типичный компьютер помещается в ладони. Таким образом, ждать, когда «вычислительная мощность» человеческого разума и машины сравняется, осталось недолго. Результат будет долго практически незаметен, но потом разрешение вопроса произойдет почти мгновенно. То есть, уровень способностей практически по всем возможным характеристикам у «изделия» вскоре окажется на порядки выше, чем у человека.  (1)

16 августа 2018 - У человека около 86 миллиардов нейронов, а между ними — 150 триллионов синапсов. У каждого синапса порядка тысячи молекулярных триггеров. Если представить мозг в виде компьютера, то у него было бы 150 квадриллионов транзисторов. У суперкомпьютера последнего поколения Summit, запущенного в США в июне этого года, всего 21 миллиард транзисторов. По оценкам футурологов, суперкомпьютер необходимой мощности появится не раньше чем через 100 лет. Чтобы детально симулировать деятельность человеческого мозга, необходимы йоттафлопсы мощности 10 в 24-й степени операций в секунду, а возможностей нынешних машин, измеряемых в сотнях петафлопс (10 в 15-й степени операций в секунду), хватит только на грубую симуляцию нервной системы червя Rotifera, состоящей из надглоточного ганглия и нескольких нервных стволовhttps://ria.ru/science/20180816/1526608414.html

16 мая 2018 В сентябре прошлого года Intel представила миру Loihi — нейроморфный чип с возможностью самообучения, являющийся важным элементом в построении систем искусственного интеллекта. В отличие от классических процессоров с последовательным конвейером инструкций, Loihi предназначен для имитации работы мозга живого существа и повторяет его структуру. Например, первая версия чипа Loihi состояла из 130 тысяч искусственных нейронов и 130 миллионов искусственных синапсов. На этой неделе Intel заявила, что в 2019 году мультичиповая система, основанная на Loihi, будет включать в себя эквивалент 100 миллиардов синапсов. Ближайшим аналогом в животном мире с мозгом такой сложности является обычная мышь. В сопроводительном слайде показана относительная синаптическая сложность нескольких животных. Так в самом низу со 125 миллиардами синапсов находится мышь, мозг крысы содержит уже около 500 млрд синапсов, далее мозг кошки вмещает порядка 6,1 триллионов, а если говорить о человеческом мозге, то для моделирования всего лишь 4,5% коры головного мозга необходимо 9 трлн синапсов. А полностью в коре больших полушарий человека находится около 125 трлн синапсов — в 1500 раз больше, чем звёзд в нашей галактике.Приведенные цифры явно показывают насколько мы еще далеки от «истинного» искусственного интеллекта. Тем не менее очевидно, что прогресс в этом направлении постоянно набирает ход, и качественный прорыв может произойти гораздо ранее, чем многие ожидают.   https://www.overclockers.ua/news/hardware/2018-05-16/122263/

21 августа 2017 - Сообщество ВКонтакте Профессор Вашингтонского университета Райан Кало, который занимается изучением этических аспектов робототехники и компьютерных систем, заявил, что в нынешнем состоянии искусственный интеллект не может нести человеческой расе никакой угрозы. Он оспорил высказывание Маска об угрозе, исходящей от умных машин. По его мнению, в существующих исследованиях нигде не упоминается возможность создания искусственного разума даже на уровне примитивных млекопитающих, не говоря уже о человеческом разуме.  

ИИ будет не более, чем инструментом и советчиком - ответственные и жизненно-важные решения будут принимать люди.

21 августа 2018 - Если уровень способностей практически по всем возможным характеристикам у «изделия» окажется на порядки выше, чем у человека, логично, что ИИ постепенно примет в управление многие вопросы жизнеобеспечения человеческих конгломераций. (1)

26 Июля 2017. Сообщество ВКонтакте Недавние высказывания Илона Маска о вероятном будущем при повсеместном использовании искусственного интеллекта, до сих пор будоражат многих. Вот и Марк Цукерберг не преминул возможностью поделиться своим видением на эту ситуацию: «Искусственный интеллект изменит нашу жизнь в будущем только к лучшему, а сценарии о конце света по причине вышедшего из-под контроля искусственного интеллекта слишком абсурдные». Цукерберг также заявил, что в ближайшие 5-10 лет ИИ существенно улучшит различные аспекты нашей жизни. Более того, по словам Марка, он уже помогает людям. В качестве примера Цукерберг привел использование ИИ для диагностирования различных заболеваний на зачаточной стадии.

Методики обучения искусственного интеллекта далеки от идеала. Современный ИИ можно научить обрабатывать данные, распознавать образы, попадать в цель - но это далеко не умение мыслить.

14 октября 2018 - Программа Machine Common Sense запустит «конкурс», который попросит алгоритмы ИИ разобраться в нескольких задачах с неочевидными для них ответами. Основной задачей проекта станет научить ИИ простым и интуитивно понятным человеку вещам, которые сложны для алгоритмов. Для того, чтобы решить подобные задачи роботам нужно дать или нужный опыт, или описать задачу полностью. Самые первые уроки будут довольно примитивными — глава программы Орен Этциони отметил, что ИИ попросят предсказать следующее действие человека, зная предыдущее. По его словам, на этот вопрос ответит «любой школьник», однако роботам это пока дается тяжело. Переход на следующий уровень сложности состоится через три месяца. https://hightech.fm/2018/10/13/ai-common-sense

23 января 2018 - Профессор Гари Маркус, бывший глава ИИ-направления в Uber, считает, что ожидания в отношении ИИ сейчас сильно завышены. "Глубокое обучение" — это слово означает лишь то, что у нейронных сетей такого формата много слоев, но ни о какой глубине «мышления» алгоритмов речи не идет. Маркус объясняет успехи ИИ в играх тем, что он хорошо работает только на статических наборах данных. Поэтому алгоритмам подвластны, например, шашки и го. Когда же речь заходит о применении ИИ в медицине, финансах и экономике, то появляется ряд проблем. Алгоритмы глубокого обучения используют миллионы и даже миллиарды параметров. Человеку сложно идентифицировать их привычным для себя способом. Эта непрозрачность приводит к тому, что ИИ трудно корректировать. Таким образом, подход глубокого обучения очень ограничен и мало вероятности, что именно он приведет к созданию так называемого общего ИИ, то есть алгоритма, способного имитировать работу человеческого сознания. 

19 января 2018 - Исследователи из Дартмутского колледжа в США оценили, насколько эффективен алгоритм COMPAS, оценивающий вероятность рецидива преступления у обвиняемых. Программа успешно выявляла преступников-рецидивистов лишь в 65% случаев. Люди без специального образования и опыта вынесения приговоров справлялись с этой задачей в 67% случаев, зная лишь возраст, пол и историю преступлений обвиняемогоАвторы новой работы считают: полагаться на такие алгоритмы в реальной судебной практике пока не стоит — вероятность ошибки слишком велика.

16 января 2018 - Попытка IBM представить суперкомпьютерную программу врачам-онкологам (Watson for Oncology) стала провальной. ИИ обещал предоставить высококачественные рекомендации по лечению 12 видов рака, на долю которых приходится 80% случаев в мире. На сегодняшний день более 14 000 пациентов получили рекомендации на основании его расчетов. Но когда врачи впервые столкнулись с Watson, они оказались в довольно сложной ситуации. С одной стороны, если Watson давал указания относительно лечения, совпадающие с их собственными мнениями, медики не видели большой ценности в рекомендациях ИИ. Суперкомпьютер просто рассказывал им то, что они уже знали, и эти рекомендации не меняли фактического лечения. Это, возможно, давало врачам спокойствие и уверенность в собственных решениях. Но IBM еще не доказала, что Watson действительно увеличивает процент выживаемости с раком. С другой стороны, если Watson давал рекомендации, которые расходились с мнением экспертов, врачи заключали, что Watson некомпетентен. И машина не могла объяснить, почему ее лечение должно сработать, потому что ее алгоритмы машинного обучения были слишком сложными, чтобы их могли понять люди. Соответственно, это приводило к еще большему недоверию, и многие врачи просто игнорировали рекомендации ИИ, полагаясь на собственный опыт. В результате главный медицинский партнер IBM Watson — MD Anderson Cancer Center — недавно сообщил об отказе от программы. Датская больница также сообщила, что отказывается от программы после того, как обнаружила, что врачи-онкологи не согласны с Watson в двух случаях из трех.

09 декабря 2017 - Искусственный интеллект победил лучшего шахматиста, ничего не зная об игре. Свое мастерство AlphaZero приобрел без посторонней помощи, в отличие от всех предыдущих шахматных программ у него не было никаких эмпирических данных, никакой базы с архивами уже сыгранных шахматных партий, никакого знания о шахматных стратегиях и фигурах. Он просто знал, как ходят фигуры, и цель игры. Начав с чистого листа и вооружившись обучающим алгоритмом подкрепления, нейросетью и фигурами на доске перед ним, AlphaZero начал играть сам с собой, снова и снова, оттачивая свои навыки с каждой партией, и если говорить человеческими понятиями времени, провел за игрой в шахматы около 1400 лет за эти четыре часа. Система может обработать 800 000 позиций за секунду. Затем он таким же образом за восемь часов сумел превзойти AlphaGo в го, и за два часа — программу Elmo, которая раньше считалась неоспоримым чемпионом по игре в сёги.

01 Августа 2017 - Hi-News Специалисты DeepMind создали новый искусственный интеллект, способный использовать своё воображение для планирования дальнейших действийПрограммы, оснащенные подобным ИИ, способны более осмысленно подходить к своим действиям, а именно – результату, которого они могут достичь. Они «думают» о своих будущих действиях и лучше предугадывают, какие их поступки впоследствии окажутся наиболее правильными. Новый подход к планированию на основе воображения получил название I2As. Развитие искусственного интеллекта может получить новый виток, если программы научатся использовать воображение, память и начнут проявлять любопытство.

ИИ может по-своему понять полученное от человка "техзадание" или выработать свои цели. Однако, в него можно заложить "моральные" ограничения или встроить "рубильник" для отключения в случае выхода из-под контроля

21 августа 2018 - Вполне может оказаться, что «изделию» наши задачи не понравятся, и оно предпочтет само искать себе другие цели. Часть экспертов предлагают выстраивать какие-то барьеры на перспективу, встраивать в ИИ «рубильник», которым машину всегда можно будет остановить. Но не спровоцируем ли мы тем самым машину на неподчинение? Одна из знаменитых цитат Илона Маска по данному вопросу звучит следующим образом: «Если машины запрограммированы на рекурсивное самоулучшение, а задачей машины является избавление от почтового спама, она может решить, что гораздо легче избавиться от людей». Есть вероятность, что ИИ, как и создавшие его люди, будет «заражен» идеей конкурентной борьбы, иерархическим инстинктом. Сначала конкурентом будет считаться ИИ другой страны, а потом, возможно, и все человечество. При этом, получение в свои руки ИИ может быть только иллюзией. Он начнет самостоятельно мыслить и окажется на своей собственной стороне с собственными интересами.   (1)

24 июля 2018 - Сейчас нейронные сети способны найти 3-4 случая мошеннических операций из 10 тысяч операций. Однако именно нейронные сети виновны в том, что вам не с того не с сего блокируют обычный перевод. Даже разработчики не могут понять, почему машина приняла такое решение, а не другое. Ведущий попросил зал поднять руку тем, кто столкнулся с подобной проблемой. И очень многие руку подняли.  https://www.finversia.ru/news/events/iskusstvennyi-intellekt-kak-godoval...

08 декабря 2017 - Ученые и программисты перестали понимать, как именно принимает решения искусственный интеллект. Об этой проблеме заявили сразу несколько специалистов на главной ИИ-конференции — Neural Information Processing Systems, — прошедшей в Лонг-Бич (Калифорния), пишет Quartz. Эксперты, с которыми пообщались в Quartz, говорят, что нужно действовать, пока система не стала слишком сложной. «Мы не хотим принимать за должное решения ИИ, без понимания их логики, — говорит Джейсон Йосински из Uber. — Чтобы общество приняло модели машинного обучения, мы должны знать, как ИИ принимает решения». Проблема, которую многие эксперты называют «черной коробочкой», действительно серьезная. Предыдущий опыт показал, что ИИ имеет склонность принимать предвзятые решения и проводить аналогии там, где их не следовало бы проводить. 

21 августа 2017 - Сообщество ВКонтакте Профессор Вашингтонского университета Райан Кало, который занимается изучением этических аспектов робототехники и компьютерных систем, заявил, что если изначально в ИИ не будет запрограммирован алгоритм по захвату вселенной, то и сделать этого он не сможет

18 Июля. Сообщество ВКонтакте Илон Маск вполне серьезно считает, что искусственный интеллект может стать серьезным противником человечеству, если не предпринимать никаких мер по предотвращению возможных угроз. Как говорит сам Маск: «У меня есть опыт работы с очень продвинутым ИИ и, по моему мнению, людям действительно стоит опасаться их. Я продолжаю бить тревогу, но пока люди не видят роботов, убивающих других людей на улицах, они не знают, как реагировать, поскольку им такой сценарий кажется нереалистичным». И решение этой проблемы Маск видит в должном регулировании. 

 

Другие прогнозы по теме "Искусственный интеллект"

О проекте "википедии будущего"

Источники:

 (1) http://dfnc.ru/yandeks-novosti/snitsya-li-iskusstvennomu-intellektu-miro...

(2) http://www.nanonewsnet.ru/articles/2018/kak-prokhodyat-pervye-gody-revol...

____________________________________________________

Об уничтожении человечества роботами рассказано много. Ник Бостром и ряд других ученых провели предварительные исследования, которые показали – в 2020 году искусственный интеллект будет мыслить уже на 10% как человек, к 2040 году данный показатель увеличится до 50%, а в 2075 – мыслительные процессы роботов уже не будут ничем отличаться от человеческих и ответ на вопрос будет ли «восстание машин» зависит только от времени. ИИ сейчас уже способен играть с человеком в шахматы, причем успешно (Deep Blue), способен воспринимать действия, слова человека и анализировать их (IBM Watson) и даже диагностировать серьезные заболевания (MYCIN), а что будет дальше?

Аргументы в пользу прогноза.

1. Искусственный интеллект активно развивается

Искусственный интеллект активно развивается различными известными ИТ-компаниями, в частности, такими корпорациям, как Google, Microsoft и ряд других ведущих организаций. Следует отметить, что корпорация Майкрософт для этих целей создала совсем недавно даже специально отделение (http://4teller.com/microsoft-vserez-zaymetsya-usovershenstvovaniem-ii), которое по размеру является третьим, среди всех других имеющихся у компании. Отдел будет создавать и впоследствии улучшать «мыслительные процессы» искусственного интеллекта, что позволит в будущем достичь великолепного результата.

Вместе с тем же, следует сказать о том, что сегодня «мыслительные процессы» роботов на десять процентов приближены к человеческому мышлению. Эту информацию подтверждают инженеры ведущих компаний и по предварительному прогнозу, апокалипсис может произойти через шестьдесят лет (http://4teller.com/apokalipsis-s-uchastiem-ii-vozmozhen-v-budushchem). Ученые также решили высказать свое мнение на этот счет. Они провели исследования, которые показали, что к 2040 году мышление роботов будет на 40 процентов идентично человеческому, а через десять лет уже на пятьдесят процентов. Соответственно, по мере развития искусственного интеллекта, будет увеличиваться еще и скорость, темпы этого процесса.

Существует предположение, что человеку будет недостаточно того, что он имеет, соответственно, машины и дальше будут развиваться, а это может привести к тому, что мы видели в фильме «Терминатор» - апокалипсису, в главных «ролях» которого будем мы и машины.

 

2. Существуют «умные» прототипы роботов

Ни для кого не секрет, что прогресс продолжает двигаться и сегодня можно встретить множество ярких тому примеров. Например, Deep Blue – система, которая может играть в шахматы, соответственно, планирует стратегию поведения, на основании сделанных человеком действий, уже сегодня может с легкостью обыграть даже самого выдающего гроссмейстера. Каспаров как раз-таки и проиграл этой машине, а она, в свою очередь, стала чемпионом мира по шахматам, как это не удивительно. Также существует система Watson, которая весьма эффективно воспринимает и отлично распознает человеческую речь. В медицине предлагают использовать систему MYCIN, так как она позволяет крайне эффективно и быстро проводить диагностику организма человека и ставить четкий диагноз. Интересно было бы увидеть – что будет, если создать своеобразный симбиоз из этих всех систем, а, возможно, и ряда других. Наверняка, такая система сможет буквально самостоятельно думать, но что касается принятия сугубо самостоятельных решений – нет, но это лишь вопрос времени. По прогнозу специалистов роботы займут большинство рабочих мест и практически половина населения нашей прекрасной планеты останется без работы, соответственно, техника сможет выполнять все гораздо лучше, быстрее, как минимум (http://4teller.com/roboty-budut-vo-vseh-sferah-zhizni-cheloveka).

 

3. «Пиратский» искусственный интеллект

Каждый, кто хоть каплю знаком с компьютерами, программами и технологиями, понимает, что и кто такие – пираты в данном случае. Человек всегда был и остается падок на «халяву», а что будет, если искусственный интеллект, как раз-таки и позволит получить ему определенную прибыль, а для этого надо будет лишь взломать ее. Представить картину разрушения мира именно в результате таких манипуляций очень просто. Наверняка, найдется какой-нибудь «умник», которому захочется взломать такой ИИ, но что будет дальше?

Если взять во внимание еще больший масштаб, то искусственный интеллект вполне может использоваться различными террористическими организациями. Если такой группой лиц будет в будущем создан робот или, как минимум захвачен, то можно ожидать того, что он выйдет из-под контроля. Как считают эксперты, в этом и кроется опасность, так как создание машин, работающих на собственном искусственном интеллекте, а вернее – подобные проекты, которые не регулируются государством, могут быть использованы в весьма коварных целях.

 

4. На вооружение армий мира могут встать боевые роботы, управляемые по сети

Например, есть сообщения о том, что Пентагон начал испытания прототипа автономного противолодочного корабля. Прогноз об этом здесь: http://4teller.com/v-2021-godu-korabli-roboty-voydut-v-sostav-flota-ssha. Российский ВПК тоже не стоит на месте: концерн «Вега», входящий в состав ОПК занимается усовершенствованием суперкомпьютера, который будет использоваться в качестве основы для контроля роботов военного назначения (http://4teller.com/roboty-budut-upravlyatsya-superkompyuterami). И это только вершина айсберга, подобные сообщения и видео прототипов наполняют Интернет.  Заменить живых солдат на роботов, аналогичных по функционалу или превосходящих человека - мечта любого командующего. К чему это может привести - мы знаем из книжек и фильмов. Ни к чему хорошему.

 

5. Устройства на основе ИИ смогут использовать шифрование  для общения между собой. 

Специалистам Google удалось добиться того, что компьютеры пересылали друг другу сообщения, используя своим методы шифрования, которые не поддавались расшифровке ни людьми, ни специально запрограммированным третьим искусственным интеллектом. Технология будет развиваться: она нужна военным, разведке, бизнесу. К чему это приведет: мы не будем понимать, о чем говорят между собой устройства, наделенные искусственным интеллектом. Так человечество проспит "восстание машин", если ему суждено сбыться...

 

Аргументы против прогноза.

1. Мнение специалистов-оптимистов

Несмотря на кажущуюся опасность, причем даже неминуемую гибель человечества от «рук» машин, второй лагерь людей считает, что вероятность уничтожения людей искусственным разумом крайне мала, если не сказать, что нулевая. Один из писателей фантастов аргументирует это тем, что сверх разуму придется потратить огромное количество времени, чтобы внедриться в экономическую деятельность. В противном случае, производство и любое обеспечение таких «девайсов» попросту будет прекращено и невозможно. К тому же, эксперты полагают, что пока машины не будут уметь чувствовать, то и самого желания в уничтожении человека, как вида, она видеть не будет. Даже если и появится желание у машины, сделать хоть что-нибудь самостоятельно, то для себя в первую очередь интеллект откроет мир «кнута и пряника». Любое неправильное действие такого интеллекта может быть сразу же ограничено человеком, а сам сверх разум в дальнейшем попросту отключен или даже уничтожен. Постепенно, когда искусственный интеллект будет развиваться, он начнет понимать о том, что делать плохо, а чего нельзя. Тем не менее, на эти слова глупо опираться, ведь в пример можно взять огромное количество преступников, отбывающих наказание в «местах не столь отдаленных». Они ведь тоже знают, что наказание будет практически неминуемо, но идут на преступление, а почему бы и машине не пойти против людей?

 

2. Отсутствие понимания собственных действий у машин

Считается также, что пока сами машины не научатся понимать того, что они делают – ничего страшного и абсурдного не произойдет. На современном этапе ученые пока даже не имеют ни малейшего представления о природе ощущений, чувств и желаний, а значит не могут построить машину или написать программу, способную их испытывать. В пример приводится знаменитая нейросеть AlphaGo, которая недавно сумела обыграть чемпиона мира по ГО, а это уже далеко не шахматы. Возможности, конечно, колоссальны и удивляют всех, даже по сей день. Тем не менее, искусственный интеллект не испытывает ничего от того, что он победил – на радости, ни печали, притом, не может даже отказаться от игры, каким-либо образом аргументируя это. Какое-то отношение к объектам в мире могут испытывать лишь живые существа.

 

Конечно, в ближайшее время апокалипсиса с участием машин не произойдет, об этом твердят и скептики теории и те, кто считает, что это произойдет. Как минимум, мы сможем спокойно прожить еще шесть десятков лет, а там уже будет видно. Сам искусственный интеллект сегодня не настолько хорошо развит, чтобы говорить более конкретно о вероятности происшествия, но возможности роботов действительно способны легко поразить собой. Хоть аргументы скептиков весьма абсурдны – их можно «контратаковать», но действительность такова, что ИИ пока не может ничего уничтожить по собственному желанию. Возможно, только после того, как мы сами научимся «расшифровывать» представления о природе ощущений, чувств и желаний, сможем построить машину или написать программу, способную их испытывать.

 

5 июня 2019
User Image4teller(87)%
Дрекслер считает, что мы должны пристальнее взглянуть на то, как на самом деле машинное обучение и алгоритмы ИИ развиваются в реально мире. Применение ИИ в различных отраслях промышленности, от транспорта до медицины — приведет к их разрастанию и усложнению. Они смогут решать все более сложные задачи. Вместо того чтобы ждать прорыва, модель комплексных ИИ-сервисов (CAIS), которую предлагает Дрекслер, предполагает, что узкоспециализированные ИИ продолжат выполнять свои задачи, и их список будет становиться все длиннее. Как только будет автоматизировано достаточное количество задач, услуги, которые представляет один ИИ, станут настолько комплексными, что он будет напоминать универсальный интеллект. Таким образом, универсальным интеллектом станет считаться алгоритм, который координирует задачи с узкими ИИ, способными их выполнить. Вместо одного мозга ИИ будет скорее поисковиком, ищущим алгоритм или алгоритмы, лучше других приспособленные для выполнения отдельных частей общего запроса. По сравнению со сверхразумным интеллектом Бострома CAIS не представляет угрозы для человека и не обладает собственным сознанием или целью. Это будет по сути высокоорганизованный язык программирования, который выполняет сложные задачи, вызывая мириады специализированных алгоритмов, разработанных для различных целей разными группами
10 февраля 2019
User Image4teller(87)%
Социальная сеть Facebook объединится с Мюнхенским техническим университетом (TUM) и поддержит его грантом в $7,5 млн для создания центра этики в сфере технологий искусственного интеллекта. Компания профинансирует изучение этических проблем в области новых технологий в течение 5 лет, говорится в ее блоге. Итоги пятилетних исследований представят законодателям, предпринимателям и широкой общественности. В компании уверены, что проблемы использования искусственного интеллекта не может решить какая-то одна отрасль, а потому независимый академический вклад института будет играть решающую роль в продвижении этических исследований. Сотрудники TUM будут исследовать этические проблемы при применении робототехники, машинного интеллекта, а также изучать социальные последствия ИИ. Речь идет, в частности, об этических проблемах, которые машины должны будут решать согласно нормам пока не существующего законодательства. Возглавит независимый институт профессор с ученой степенью в области бизнес-информатики и философии, доктор Кристоф Лютге, который с 2010 года руководит кафедрой деловой этики Питера Лешера в TUM. Институт будет определять конкретные вопросы и собирать исследователей, которые занимаются вопросами этики и управления ИИ. По словам доктора Лютге, доказательное исследование будет посвящено вопросам, которые лежат на стыке технологий и человеческих ценностей: в отношении доверия, конфиденциальности, справедливости или интеграции. Например, когда люди оставляют информацию о себе в интернете или получают определенную информацию с помощью различных кодов.
Существующие похожие прогнозы
Примерно
31 декабря 2020
прогноз сбудется
Техника и наука
В Москве запланировали запуск конвейерного производства специальных промышленных роботов-манипуляторов
Примерно
1 января 2028
прогноз сбудется
Техника и наука
Европейское космическое агентство одобрило подготовку к проекту по перехвату «неизвестных комет» и астероидов – будущих, еще необнаруженных целей.
Не позднее
30 декабря 2034
прогноз сбудется
Техника и наука
Члены американской неправительственной организации Open Lunar Foundation, бывшие сотрудники NASA, считают, что поселение на спутнике должно быть независимым.
Примерно
14 октября 2025
прогноз сбудется
Техника и наука
BMW хочет иметь готовый продукт для клиентов, когда настанет время машин с топливными элементами. Ранее автоконцерн сообщал о своих планах начать также выпуск электромобилей
Примерно
15 марта 2022
прогноз сбудется
Техника и наука
Ford збирається виробляти електричний фургон Transit на території США.
Когда-нибудь
прогноз сбудется
Техника и наука
Ученым из Гарвардского университета удалось создать самый маленький в мире радиоприемник размером в два атома
Примерно
31 декабря 2022
прогноз сбудется
Техника и наука
Итальянская компания Pagani, выпускающая гиперкары, объявила, что она по-прежнему намерена использовать V12.
Примерно
21 августа 2021
прогноз сбудется
Техника и наука
Американские геологи считают, что извержение супервулкана в Йеллоустоуне может произойти 21 августа 2021 года.
Примерно
27 июля 2035
прогноз сбудется
Техника и наука
По задумке создателей проекта MARINA, космический отель сможет принимать туристов и будет состоять из восьми надувных модулей, расположенных по кругу подобно лепесткам
Примерно
31 марта 2021
прогноз сбудется
Техника и наука
Компания Toyota и ее люксовый суббренд Lexus к 2021 году собираются вывести на рынок три электрокара.

Смотрите индивидуальную Ленту новостей, настроенную по вашим интересам

Настройте вашу ленту: подпишитесь на прогнозы и мнения авторов сайта, своих друзей, экспертов, СМИ или блогеров

Поиск будущих событий    Тенденции    Календарь    Завершенные прогнозы