Школа мужества для подростков в москве отзывы: Школа мужества. Программа для мальчиков 8-17 лет

# 99

Скорректированный счет: 88.747%

Консенсус критиков: с большим количеством мясистых действий, приятной атмосферой ретро и горсткой прекрасных представлений, «Капитан Америка» — это сплошное старомодное развлечение-блокбастер.

# 98

Скорректированный счет: 90.656%

Консенсус критиков: в «Эпизоде ​​III: Месть ситхов» Джордж Лукас доводит свою вторую трилогию «Звездных войн» до достаточно захватывающего и часто острого — хотя и немного неровного — завершения.

# 97

Скорректированный счет: 83.533%

Консенсус критиков: это увлекательное занятие как для взрослых, так и для детей.

# 96

Скорректированный счет: 85.466%

Консенсус критиков: выступление Курта Рассела переводит эту клишеобразную историю в царство вдохновляющей, ностальгической доброты.

# 95

Скорректированный счет: 90.641%

Консенсус критиков: несмотря на то, что «Возвращение джедая» не достигло кинематографических высот своих предшественников, оно остается увлекательным научно-фантастическим приключением и подходящим завершением классической трилогии.

# 94

Скорректированный счет: 88.233%

Консенсус критиков: Верные комиксам и наполненные действиями, Люди Икс выводят на экран множество классических персонажей Marvel с талантливым составом ансамбля и удивительно острой повествовательной направленностью.

# 93

Скорректированный счет: 92.752%

Консенсус критиков: на техническом уровне фильм может быть более впечатляющим, чем как повествование, но «Аватар» подтверждает исключительный дар Джеймса Кэмерона к творческому и увлекательному кинопроизводству.

# 92

Скорректированный счет: 94.979%

Консенсус критиков: Во главе с очаровательной игрой Пола Радда «Человек-муравей» предлагает острые ощущения Marvel в значительно меньшем масштабе, хотя и не так гладко, как его самые успешные предшественники.

# 91

Скорректированный счет: 92.314%

Консенсус критиков: Безупречно сладкая и, возможно, даже немного банальная, «Звуки музыки» покорят всех, кроме самых циничных кинозрителей, своими классическими песнями и непреодолимой теплотой.

# 90

Скорректированный счет: 87.544%

Critics Consensus: Великолепная анимация «Книги жизни» — удовольствие, но жаль, что ее истории не хватает того же уровня мастерства и деталей, которые обеспечивают ее захватывающие визуальные эффекты.

# 89

Скорректированный счет: 86.939%

Консенсус критиков: динамичный и наполненный десятками отсылок к поп-культуре, Геркулес может не соответствовать истинной классике пантеона Диснея, но все же это очень весело.

# 88

Скорректированный счет: 85.393%

Консенсус критиков: удивительное множество изображений из-под моря.

# 87

Скорректированный счет: 88.185%

Консенсус критиков: душевный спортивный фильм «Новичок» очень выигрывает от сдержанного направления и эмоциональной честности, которую Деннис Куэйд привносит в роль Джима Морриса.

# 86

Скорректированный счет: 102.31%

Critics Consensus: Rogue One глубоко опирается на мифологию «Звездных войн», открывая новые повествовательные и эстетические основы — и предлагая яркое будущее франшизы в блокбастерах.

# 85

Скорректированный счет: 86.144%

Critics Consensus: Disneynature Born In China предлагает больше захватывающих кадров, которыми известен сериал, и более чем достаточно приятных антропоморфных сцен, чтобы развлечь детей.

# 84

Скорректированный счет: 89.445%

Консенсус критиков: «Новый ритм императора» — не самый амбициозный анимационный фильм, но его динамичный темп, свежие персонажи и веселый смех позволяют отлично провести время для всей семьи.

Режиссер:

# 83

Скорректированный счет: 91.405%

Консенсус критиков: Теплота традиционной диснеевской анимации делает это иногда легкое сказочное обновление живым и увлекательным кондитерским изделием на праздники.

# 82

Скорректированный счет: 92.271%

Консенсус критиков: X2: X-Men United с четким сценарием, четко продуманной и впечатляюще амбициозной игрой больше и лучше своего предшественника и является эталоном для сиквелов комиксов в целом.

# 81

Скорректированный счет: 103.069%

Консенсус критиков: Стражи Галактики Том. Захватывающий сюжет 2, великолепные визуальные эффекты и непочтительный юмор делают сиквел почти таким же увлекательным — если не таким захватывающе свежим — как его предшественник.

# 80

Скорректированный счет: 89.011%

Консенсус критиков: красивая анимация, приветливый взгляд на историю России и яркое озвучивание делают «Анастасию» первым победным фильмом анимационной студии Fox.

# 79

Скорректированный счет: 90.009%

Консенсус критиков: исследуя темы семейного долга и чести, Мулан открывает новые горизонты в качестве диснеевского фильма, но при этом демонстрирует яркую анимацию и веселых персонажей на экране.

# 78

Скорректированный счет: 89.951%

Консенсус критиков: «Лило и Стич», более острые, чем традиционные блюда Диснея, исследуют семейные проблемы, рассказывая при этом веселую и очаровательную историю.

# 77

Скорректированный счет: 93.898%

Консенсус критиков: Wreck-It Ralph, одинаково интересный как для детей, так и для родителей, достаточно взрослых, чтобы уловить отсылки, — это умное красочное приключение, построенное на знакомых темах и радостной ностальгии.

# 76

Скорректированный счет: 94.32%

Critics Consensus: The Peanuts Movie предлагает красочный вход в мир его классических персонажей и сладкое ностальгическое — хотя и относительно не амбициозное — угощение для взрослых, которые выросли с ними.

# 75

Скорректированный счет: 91.953%

Консенсус критиков: «Книга джунглей» с выразительной анимацией, забавными персонажами и запоминающимися песнями остается классикой Диснея, которая радует публику.

# 74

Скорректированный счет: 92.041%

Консенсус критиков: «Маппет-фильм», дебют на большом экране плюшевых творений Джима Хенсона, умный, беззаботный и интересный для всех возрастов.

# 73

Скорректированный счет: 92.211%

Консенсус критиков: Джейми Ли Кертис и Линдси Лохан очаровывают в красиво написанном Марком Уотерсом и втором Дисней ремейке хита 1976 года.

# 72

Скорректированный счет: 93.214%

Консенсус критиков: Очаровательная детская сказка может понравиться даже взрослым.

# 71

Скорректированный счет: 97.424%

Консенсус критиков: «Дракон Пита» продолжает текущую победную серию Disney в живых выступлениях с обновлением, которое придает оригиналу визуальную перестройку, не подавляя его сладкого душевного очарования.

# 70

Скорректированный счет: 102.647%

Консенсус критиков: он может пострадать по сравнению с классикой Pixar, но Onward эффективно использует формулу студии — и сам по себе стоит как забавное, трогательное, ослепительно анимированное приключение.

# 69

Скорректированный счет: 94.028%

Консенсус критиков: этот фантастический пейзаж Диснея содержит моменты величия, с его яркими красками, волшебным воздухом, одного из самых грозных злодеев в каноне Диснея.

# 68

Скорректированный счет: 93.378%

Консенсус критиков: Дисней Тарзан выводит хорошо известную историю на новый уровень с энергичной анимацией, быстрым темпом и некоторыми захватывающими элементами декораций. Краткое содержание: Человек, воспитанный гориллами, должен решить, где ему на самом деле место, когда он обнаруживает, что он человек …. [Подробнее]

# 67

Скорректированный счет: 96.07%

Critics Consensus: Bolt — это приятная анимационная комедия, которая преодолевает знакомство истории с сильными визуальными эффектами и симпатичными персонажами.

# 66

Скорректированный счет: 98.899%

Консенсус критиков: Приятно занимательный и блестяще анимированный, Big Hero 6 — динамичный, динамичный и часто трогательный.

# 65

Скорректированный счет: 95.87%

Консенсус критиков: Хотя «Запутанная история» далека от величайшего фильма Диснея, он представляет собой потрясающе красивое и увлекательное дополнение к классическому анимационному канону студии.

# 64

Скорректированный счет: 104.149%

Консенсус критиков: «Доктор Стрэндж» искусно уравновешивает исходный материал с ограничениями блокбастера MCU, предлагая в придачу очень увлекательную историю происхождения супергероев.

# 63

Скорректированный счет: 97.396%

Консенсус критиков: Элегантно анимированный и глубоко трогательный, Бэмби — прочная, трогательная и трогательная классика Диснея.

# 62

Скорректированный счет: 91.64%

Консенсус критиков: Сладкие, красиво снятые и удивительно мало приукрашенные, Bears продолжают победную серию Disneynature.

# 61

Скорректированный счет: 99.787%

Консенсус критиков: Красиво анимированный, грамотно написанный и наполненный песнями «Холодное сердце» добавляет еще одну достойную запись в канон Диснея.

# 60

Скорректированный счет: 102.419%

Консенсус критиков: Тревожный и политически проницательный, Капитан Америка: Зимний Солдат — превосходная запись в каноне Мстителей, которая наверняка вызовет восторг приверженцев Marvel.

# 59

Скорректированный счет: 103.475%

Critics Consensus: X-Men: Days of Future Past сочетает в себе лучшие элементы серии, чтобы создать удовлетворительно динамичную игру, которая входит в число лучших игр франшизы.

# 58

Скорректированный счет: 105.779%

Консенсус критиков: В красиво анимационном фильме «Остров собак» в режиме покадровой анимации Уэс Андерсон демонстрирует лучшую детализацию во время рассказа одной из самых очаровательных историй режиссера.

# 57

Скорректированный счет: 106.901%

Critics Consensus: Captain America: Civil War начинает новую волну фильмов Marvel с остросюжетного блокбастера о супергероях, который может похвастаться явно не мультяшным сюжетом и смелостью исследовать наводящие на размышления темы.

# 56

Скорректированный счет: 110.761%

Critics Consensus: Star Wars: The Last Jedi чтит богатое наследие саги, добавляя некоторые неожиданные повороты и предлагая все, на что поклонники боевиков могли надеяться.

# 55

Скорректированный счет: 93.936%

Critics Consensus: Совершенно легкая, теплая и забавная романтическая комедия, поддерживаемая ненавязчивой режиссурой Рона Ховарда и очаровательными выступлениями Тома Хэнкса и Дэрила Ханна.

# 54

Скорректированный счет: 94.174%

Critics Consensus: Ever After — сладкий, пенистый поворот в древней сказке, во главе с твердым поворотом от звезды Бэрримора.

В ролях:

Режиссер:

# 53

Скорректированный счет: 94.984%

Консенсус критиков: Захватывающие и динамичные визуальные эффекты, необычные детали и легкое повествование делают «Джеймс и гигантский персик» надежным семейным развлечением.

# 52

Скорректированный счет: 94.659%

Консенсус критиков: Короткий, ностальгический и слегка причудливый Винни-Пух предлагает юным зрителям и их родителям сладкое традиционное семейное угощение.

# 51

Скорректированный счет: 105.085%

Консенсус критиков: благодаря сценарию, подчеркивающему человечность героев и множеству сверхмощных декораций, «Мстители» оправдывают свою шумиху и поднимают планку для фильмов Marvel.

В ролях:

Режиссер:

# 50

Скорректированный счет: 96.651%

Critics Consensus: A Bug’s Life — это воодушевляющее приключение, в котором анимированные острые ощущения сочетаются с остроумными диалогами и запоминающимися персонажами — и это еще один потрясающий ранний успех Pixar.

# 49

Скорректированный счет: 106.029%

Консенсус критиков: Легендарно обширное и амбициозное начало научно-фантастической саги, Джордж Лукас открыл нам глаза на возможности создания блокбастеров, и вещи никогда не были прежними.

# 48

Скорректированный счет: 105.519%

Консенсус критиков: Стражи Галактики столь же непочтительны, как и ожидают поклонники часто сумасшедшего комикса Marvel, — а также веселая, захватывающая, полная души и наполненная визуальным великолепием.

# 47

Скорректированный счет: 97.989%

Консенсус критиков: Ностальгическая очаровательница, символическая сладость «Леди и Бродяга» невероятна, но песни и богато окрашенная анимация технически превосходны и оставляют незабываемые впечатления.

# 46

Скорректированный счет: 94.365%

Консенсус критиков: захватывающие кадры из «Королевства обезьян» с приматами в дикой природе наверняка понравятся любителям животных всех возрастов.

# 45

Скорректированный счет: 98.469%

Консенсус критиков: «Русалочка» открыла новую золотую эру для анимации Диснея с теплыми и очаровательными рисованными персонажами и запоминающимися музыкальными сценами.

# 44

Скорректированный счет: 101.904%

Консенсус критиков: эмоционально волнующий, богато нарисованный и прекрасно анимированный фильм «Король Лев» — гордость в пантеоне классических семейных фильмов Диснея.

# 43

Скорректированный счет: 100.989%

Critics Consensus: Fantastic Mr. Fox — это восхитительно забавный праздник для глаз, привлекающий представителей разных поколений, и он показывает, что Уэс Андерсон обладает способностью к анимации.

# 42

Скорректированный счет: 111.708%

Консенсус критиков: Захватывающий, забавный и, прежде всего, забавный, Тор: Рагнарок — это красочное космическое приключение, которое устанавливает новый стандарт для его франшизы — и всей остальной кинематографической вселенной Marvel.

# 41

Скорректированный счет: 110.582%

Консенсус критиков: «Пробуждение силы», наполненное действиями и наполненное как знакомыми лицами, так и свежей кровью, успешно напоминает былую славу сериала, наполняя ее новой энергией.

# 40

Скорректированный счет: 103.818%

Консенсус критиков: мрачный, зловещий, но в конечном итоге даже более захватывающий, чем «Новая надежда», «Империя наносит ответный удар» бросает вызов ожиданиям зрителей и выводит сериал на более высокий эмоциональный уровень.

# 39

Скорректированный счет: 103.228%

Critics Consensus: Очаровательный, невероятно романтичный и содержащий множество замечательных музыкальных номеров, «Красавица и чудовище» — одно из самых элегантных мультфильмов Диснея.

# 38

Скорректированный счет: 100.989%

Critics Consensus: Queen of Katwe — это приятный фильм о необычайном уме и страсти, а выдающиеся выступления Лупиты Нионго и Дэвида Ойелоуо помогают преодолеть клише фильма.

# 37

Скорректированный счет: 104.955%

Консенсус критиков: Вдохновленный ярким обаянием Роберта Дауни-младшего, «Железный человек» наполняет жанр супергероев ловким интеллектом и заразительным чувством веселья.

Режиссер:

# 36

Скорректированный счет: 106.122%

Консенсус критиков: еще одна великолепно анимированная, умело озвученная запись в каноне Диснея, «Рая и последний дракон», продолжает увеличивать репрезентативность студии, подтверждая, что ее классическая формула столь же надежна, как и прежде.

Режиссер:

# 35

Скорректированный счет: 107.184%

Critics Consensus: Веселая, острая и заставляющая задуматься, «В поисках Дори» — это прекрасно анимированное приключение, которое добавляет еще одну интересную главу к классической истории своего предшественника.

# 34

Скорректированный счет: 118.006%

Консенсус критиков: Захватывающая, развлекательная и эмоциональная игра «Мстители: Финал» делает все возможное, чтобы доставить удовлетворяющий финал эпической саги «Бесконечность» от Marvel.

# 33

Скорректированный счет: 102.477%

Консенсус критиков: Знаковая веха в анимации (и огромное влияние на музыкальное видео), Disney’s Fantasia представляет собой неустанно изобретательную смесь классики с фантасмагорическими образами.

# 32

Скорректированный счет: 96.858%

Консенсус критиков: Бейонсе — король.

# 31

Скорректированный счет: 100.378%

Консенсус критиков: «Аладдин прекрасно прорисован в эпоху возрождения Диснея:« Аладдин прекрасно прорисован, с почти классическими песнями и актерским составом захватывающих сцену персонажей ». Сводка: Головокружительное и веселое озвучивание Джинна Робином Уильямсом — главная достопримечательность Аладдина, третьего в серии … [Подробнее]

# 30

Скорректированный счет: 102.759%

Critics Consensus: The Nightmare Before Christmas — потрясающе оригинальное и визуально восхитительное произведение покадровой анимации.

# 29

Скорректированный счет: 99.275%

Консенсус критиков: с сильной игрой и режиссером Дэвидом Линчем у руля «Прямая история» проходит мимо сентиментальных переулков в своем неспешном путешествии по сердцу Америки.

# 28

Скорректированный счет: 102.206%

Консенсус критиков: Умные, очаровательные и искренние, «Маппеты» — долгожданное возвращение на большой экран милых творений Джима Хенсона, которые завоюют новых поклонников и порадуют давних преданных.

# 27

Скорректированный счет: 105.101%

Консенсус критиков: звездная графика Wall-E еще раз свидетельствует об изобретательности Pixar, а ее очаровательная звезда очарует юных зрителей, а ее своевременный сюжет предлагает подтекст, заставляющий задуматься.

# 26

Скорректированный счет: 106.005%

Консенсус критиков: с таким же трехмерным персонажем, как и его пышная анимация, и сюжетом, который добавляет свежую глубину проверенной временем формуле Диснея, Моана — это действительно семейное приключение на века.

# 25

Скорректированный счет: 109.741%

Консенсус критиков: фильм «Душа» столь же красив, как и созерцать, доказывает, что способность Pixar обеспечивать выдающиеся развлечения для всех возрастов остается неизменной.

# 24

Скорректированный счет: 103.944%

Консенсус критиков: неопровержимое доказательство того, что мягкий сентиментализм может быть главным ингредиентом замечательного фильма, «Чудо на 34-й улице» передает теплое праздничное послание, не прибегая к патоке.

# 23

Скорректированный счет: 102.601%

Консенсус критиков: Умная, забавная и приятная на вид, компания Monsters, Inc. представляет еще один убедительный пример того, как Pixar поднял планку современной анимации для всех возрастов.

# 22

Скорректированный счет: 104.631%

Critics Consensus: Быстро развивающийся и потрясающе анимированный, Рататуй добавляет еще одну восхитительно занимательную часть — и довольно маловероятного героя — в канон Pixar.

# 21

Скорректированный счет: 119.017%

Консенсус критиков: «Черная пантера» поднимает супергеройское кино на новые захватывающие высоты, рассказывая одну из самых захватывающих историй MCU и представляя некоторых из наиболее полно реализованных персонажей.

# 20

Скорректированный счет: 101.765%

Консенсус критиков: «Кто подставил кролика Роджера» — это инновационный и развлекательный фильм, который представляет собой революционное сочетание живых выступлений и анимации, а также трогательную и оригинальную историю.

# 19

Скорректированный счет: 102.464%

Critics Consensus: освежающе сладкий и, несомненно, забавный, Big — это образец для Тома Хэнкса, который с головой погрузился в свою роль и наполнил ее очарованием и удивительной остротой.

# 18

Скорректированный счет: 103.2%

Critics Consensus: Восхитительная постмодернистская сказка «Принцесса-невеста» — это ловкая, интеллектуальная смесь безрассудства, романтики и комедии, которая берет извечную историю о девушке в беде и делает ее свежей.

# 17

Скорректированный счет: 103.099%

Critics Consensus: Free Solo изображает спортивные подвиги, которые многие зрители найдут без разума, и обосновывает попытки увлечениями, которые почти универсальны.

# 16

Скорректированный счет: 104.215%

Консенсус критиков: «Суперсемейка», привнося массу остроумия и веселья в жанр анимированных супергероев, легко оправдывает свое название.

# 15

Скорректированный счет: 111.876%

Консенсус критиков: богатые визуальные удовольствия Коко сочетаются с вдумчивым повествованием, в котором используется семейный — и глубоко затрагивающий — подход к вопросам культуры, семьи, жизни и смерти.

# 14

Скорректированный счет: 116.8%

Critics Consensus: Душевная, забавная и красиво анимированная, Toy Story 4 управляет невероятным подвигом — расширением — и, возможно, завершением — практически идеальной анимационной саги.

# 13

Скорректированный счет: 104.617%

Консенсус критиков: «Дамбо» содержит много сюжетов в своем коротком времени, наряду со всей теплой анимацией и прекрасной музыкой, которую вы ожидаете от классики Disney.

# 12

Скорректированный счет: 103.244%

Консенсус критиков: с множеством дворняжек и запоминающимся злодеем (Круэлла Де Виль), это один из самых устойчивых и увлекательных анимационных фильмов Диснея.

# 11

Скорректированный счет: 102.899%

Critics Consensus: Роскошная современная сказка, известная своими удивительными спецэффектами, запоминающимися песнями и легендарным исполнением Джули Эндрюс в главной роли.

# 10

Скорректированный счет: 110.847%

Консенсус критиков: «Белоснежка и семь гномов» с ее сюжетом и персонажами, яркой графикой и запоминающимися песнями установили стандарт анимации на десятилетия вперед.

# 9

Скорректированный счет: 101.881%

Консенсус критиков: Джейн чтит наследие своего предмета захватывающим, прекрасно снятым и в целом поучительным взглядом на ее десятилетия бесценной работы.

В ролях:

# 8

Скорректированный счет: 106.276%

Консенсус критиков: посмотрите вокруг, посмотрите вокруг, как красиво Гамильтон сияет за пределами Бродвея — и как чудесно Томас Кейл улавливает заразительную энергию сценического шоу.

# 7

Скорректированный счет: 109.518%

Консенсус критиков: блестяще всесторонняя «Зверополис» предлагает вдумчивое, инклюзивное сообщение, такое же яркое и своевременное, как и великолепная современная анимация, при этом оставаясь достаточно быстрой и забавной, чтобы развлекать юных зрителей.

# 6

Скорректированный счет: 107.678%

Консенсус критиков: «История игрушек 3», ловко сочетающая в себе комедию, приключения и искренние эмоции, является редким вторым продолжением, которое действительно работает.

# 5

Скорректированный счет: 112.795%

Critics Consensus: изобретательная, великолепно анимированная и мощная игра Inside Out — еще одно выдающееся дополнение к библиотеке современной классической анимации Pixar.

# 4

Скорректированный счет: 107.01%

Консенсус критиков: потрясающе красивый и основанный на звездных усилиях хорошо подобранного состава, «В поисках Немо» добавлен еще один прекрасно обработанный драгоценный камень в корону Pixar.

№ 3

Скорректированный счет: 107.477%

Консенсус критиков: амбициозный, авантюрный, а иногда и пугающий, Пиноккио, возможно, представляет собой вершину собрания произведений Диснея — он прекрасно обработан и эмоционально резонирует.

# 2

Скорректированный счет: 105.81%

Консенсус критиков: развлекательная и новаторская, «История игрушек» оживила анимацию, возвещая о том, что Pixar стала дружественной для всей семьи силой, с которой нужно считаться.

# 1

Скорректированный счет: 107.655%

Консенсус критиков: редкое продолжение, которое, возможно, лучше своего предшественника, Toy Story 2, использует изобретательное повествование, великолепную анимацию и талантливый актерский состав, чтобы доставить еще один богатый опыт просмотра фильмов для всех возрастов.

Подробнее:

Философ Судного Дня | Житель Нью-Йорка

И.Приметы

В прошлом году бестселлером Times стала любопытная научно-популярная книга: глубокое размышление об искусственном интеллекте философа Ника Бострома, работающего в Оксфорде. В нем под названием «Суперинтеллект: пути, опасности, стратегии» утверждается, что настоящий искусственный интеллект, если он будет реализован, может представлять опасность, превосходящую все предыдущие угрозы со стороны технологий — даже ядерного оружия — и что если его развитие не будет тщательно контролироваться, человечество рискует. конструируя собственное вымирание.Центральное место в этой озабоченности занимает перспектива «взрыва разведданных», спекулятивного события, в котором А.И. приобретает способность к самосовершенствованию и в короткие сроки на много порядков превосходит интеллектуальный потенциал человеческого мозга.

Такая система, по сути, была бы новым видом жизни, и страхи Бострома в их простейшей форме эволюционируют: человечество неожиданно превзойдет более умного конкурента. Иногда для сравнения он отмечает траектории движения людей и горилл: обоих приматов, но один вид доминирует на планете, а другой находится на грани уничтожения.«Перед перспективой интеллектуального взрыва мы, люди, подобны маленьким детям, играющим с бомбой», — заключает он. «Мы мало знаем, когда произойдет детонация, хотя, если поднести устройство к уху, мы услышим слабый тикающий звук».

В возрасте сорока двух лет Бостром стал выдающимся философом. «Суперинтеллект» — это лишь его наиболее заметный ответ на идеи, с которыми он столкнулся два десятилетия назад, когда он стал трансгуманистом, присоединившись к капризному квазиутопическому движению, объединенному ожиданием того, что ускоренное развитие технологий приведет к радикальным изменениям — социальным, экономическим и т. Д. и, что наиболее поразительно, биологическое, которое могло сойтись в момент эпохальной трансформации, известной как Сингулярность.Бостром, возможно, является ведущим философом-трансгуманистом сегодня, и эта позиция была достигнута путем наведения порядка в идеях, которые в противном случае никогда бы не выжили за пределами полусумасшедшей экосистемы Интернета, в которой они сформировались. Он редко делает конкретные прогнозы, но, полагаясь на теорию вероятностей, он стремится выявить идеи, которые кажутся невозможными.

Некоторые из самых умных аргументов Бострома напоминают швейцарские армейские ножи: они просты, похожи на игрушку, приятно рассматривать, с красочным внешним видом и точно откалиброванной механикой.Однажды он представил моральный довод в пользу искусственно созданного бессмертия как басню о королевстве, терроризируемом ненасытным драконом. Переформулировка пари Паскаля превратилась в диалог между философом семнадцатого века и грабителем из другого измерения.

«Сверхразум» не задумывался как трактат с глубокой оригинальностью; Вклад Бострома состоит в том, чтобы наложить строгость аналитической философии на беспорядочный корпус идей, возникших на обочине академической мысли. Возможно, потому, что поле А.I. недавно добился поразительных успехов — повседневные технологии, кажется, все больше и больше демонстрируют что-то вроде разумного мышления — книга задела нервы. Сторонники Бострома сравнивают его с «Тихой весной». В области моральной философии Питер Сингер и Дерек Парфит восприняли это как важный труд, и выдающиеся физики, такие как Стивен Хокинг, повторили его предупреждение. В высшей касте Кремниевой долины Бостром приобрел статус мудреца. Илон Маск, генеральный директор Тесла продвигал книгу в Твиттере, отметив: «Мы должны быть очень осторожны с ИИ.Потенциально опаснее ядерного оружия ». Билл Гейтс тоже рекомендовал это. Предполагая, что А. может угрожать человечеству, сказал он во время выступления в Китае: «Когда люди говорят, что это не проблема, я действительно начинаю приходить к разногласиям. Как они могут не видеть, насколько это серьезная проблема? »

Люди, которые говорят, что искусственный интеллект не проблема, обычно работают с искусственным интеллектом. Многие видные исследователи считают основные взгляды Бострома неправдоподобными или отвлекающими от краткосрочных выгод и моральных дилемм, создаваемых технологией — не в последнюю очередь потому, что А.Сегодня I. systems с трудом может направлять роботов к открытию дверей. Прошлым летом генеральный директор Орен Эциони из Института искусственного интеллекта Аллена в Сиэтле назвал страх перед машинным интеллектом «комплексом Франкенштейна». Другой ведущий исследователь заявил: «Я не беспокоюсь об этом по той же причине, по которой меня не беспокоит перенаселение на Марсе». Джарон Ланье, исследователь и технический обозреватель Microsoft, сказал мне, что даже оформление различных взглядов как дебатов было ошибкой. «Это не честный разговор», — сказал он.«Люди думают, что это технология, но на самом деле это религия, люди обращаются к метафизике, чтобы справиться с условиями жизни человека. У них есть способ драматизировать свои убеждения с помощью сценария конца дней — и никто не хочет критиковать религии других людей ».

Поскольку спор разыгрывался в блогах и в популярной прессе, за пределами рецензируемых журналов, обе стороны появились в карикатурном виде, с заголовками, предполагающими любую гибель (« Will Super-Intelligence Machines Kill Us All ? ») Или отсрочка от гибели (« Искусственный интеллект ‘ не положит конец человечеству ‘ »).Даже самая обоснованная версия дискуссии занимает философскую территорию, где мало что ясно. Но, утверждает Бостром, если удастся создать искусственный интеллект, это станет событием с беспрецедентными последствиями — возможно, даже разрывом в ткани истории. Немного дальновидности может быть моральным обязательством по отношению к нашему собственному виду.

Единственная обязанность Бострома в Оксфорде — руководить организацией под названием Future of Humanity Institute, которую он основал десять лет назад при финансовой поддержке Джеймса Мартина, футуриста и технологического миллионера.Бостром управляет институтом как своего рода философской радиолокационной станцией: бункером, отправляющим навигационные импульсы в туман возможного будущего. Не так давно F.H.I. Парень изучал возможность «сценария темного пожара», космического события, которое, как он предположил, могло произойти при определенных условиях высокой энергии: повседневная материя превращается в темную материю в неконтролируемом процессе, который может стереть большую часть известной вселенной. (Он пришел к выводу, что это маловероятно.) Обсуждения в F.H.I. варьируются от традиционных философских тем, таких как природа компромисса, до оптимальной структуры космических империй — независимо от того, представляет ли единый межгалактический машинный интеллект, поддерживаемый огромным набором зондов, более этическое будущее, чем космический империум, в котором обитают миллионы цифровых разумов.

Ранее в этом году я посетил институт, который расположен на извилистой улице в районе Оксфорда, которому уже тысяча лет. Чтобы поймать Бострома в его офисе, нужно потрудиться. Спрос на него на лекциях высок; он ездит за границу почти каждый месяц, чтобы передать свои технологические предзнаменования в самых разных условиях, от штаб-квартиры Google до президентской комиссии в Вашингтоне. Даже в Оксфорде он поддерживает своеобразный график, оставаясь в офисе до двух часов ночи и возвращаясь где-то на следующий день.

Я пришел раньше него и ждал в коридоре между двумя конференц-залами. На мемориальной доске было указано, что одним из них был зал Архипова, посвященный Василию Архипову, советскому морскому офицеру. Во время кубинского ракетного кризиса Архипов служил на подводной лодке в Карибском бассейне, когда американские эсминцы взорвали неподалеку глубинные бомбы. Его капитан, не имея возможности установить радиосвязь с Москвой, опасался эскалации конфликта и приказал нанести ядерный удар. Но Архипов отговорил его, и тотальная атомная война была предотвращена.Через коридор находилась Комната Петрова, названная в честь другого советского офицера, который предотвратил глобальную ядерную катастрофу. Позже Бостром сказал мне: «Возможно, они спасли больше жизней, чем большинство государственных деятелей, которых мы чествуем на марках».

Ощущение, что авангард технически мыслящих людей, работающих в безвестности, в противоречии с консенсусом, может спасти мир от самоуничтожения, пронизывает атмосферу в F.H.I. как электрический заряд. В ожидании Бострома я заглянул через ряд окон в комнату Архипова, которая выглядела так, как будто она использовалась и для собраний, и для хранения вещей; на книжном шкафу стояли ящики с лампочками, абажурами, кабелями, запасными кружками.Худощавый доктор философии. завернутый в толстый вязаный кардиган, он расхаживал перед доской, покрытой записями, и атаковал ее очередями. После каждого приступа он расхаживал, заложив руки за спину, наклонив голову вниз. В какой-то момент он стер часть своей работы. Воспользовавшись этим как возможностью прервать разговор, я спросил его, что он делает. «Это проблема, связанная с одним из аспектов искусственного интеллекта. называется «планирование», — сказал он. Его поведение излучало раздражение. Я оставил его одного.

Бостром прибыл на 2 р.м . У него мальчишеское лицо и стройное жизнерадостное телосложение инструктора по йоге, хотя его никогда нельзя было принять за инструктора по йоге. Его интенсивность сдерживается слишком неаккуратно, что проявляется в его беспокойной походке по улицам за пределами своего офиса (он не водит машину), в его ненасытном потреблении аудиокниг (проигрываемых со скоростью в два или три раза выше нормальной для максимальной эффективности) и его привередливости защита от болезней (избегает рукопожатий и протирает столовое серебро скатертью).Бостром может быть упрямым в отношении размещения офисного растения или выбора шрифта. Но когда его аргументы подвергаются сомнению, он внимательно слушает, механика рассмотрения почти незаметна под его кожей. Затем, спокойно и быстро, он отправляет ответ, одна идея переплетается с другой.

Он спросил, не хочу ли я пойти на рынок. «Вы можете смотреть, как я делаю свой эликсир», — сказал он. В течение прошлого года или около того он пил свой обед (еще одна эффективность): смузи, содержащий фрукты, овощи, белки и жиры.Локтем он нажал кнопку, открывавшую с помощью электроники входную дверь. Потом мы выбежали.

У Бострома новое человеческое чувство утраченного времени. Единственный ребенок, он вырос — как Никлас Бострем — в Хельсингборге, на южном побережье Швеции. Как и многие исключительно одаренные дети, он ненавидел школу и, будучи подростком, развил вялый романтический образ. В 1989 году он зашел в библиотеку и наткнулся на антологию немецкой философии девятнадцатого века, содержащую работы Ницше и Шопенгауэра.Он прочитал ее в близлежащем лесу, на поляне, которую он часто посещал, чтобы думать и писать стихи, и испытал эйфорию о возможностях обучения и достижений. «Трудно передать словами, на что это было похоже, — сказал мне Бостром; вместо этого он прислал мне фотографию картины маслом, которую он написал вскоре после этого. Это был полурепрезентативный пейзаж со странными фигурами, забитыми густым подлеском; за ним под ярким солнцем парил ястреб. Он назвал его «День первый.

Решив, что он растратил свои ранние годы жизни, он бросился в кампанию самообразования. Он пробежался по ссылкам в антологии, разделившись на искусство, литературу, науку. Он говорит, что его двигало не только любопытство, но и желание получить практические знания о том, как жить. К ужасу родителей, Бостром настоял на том, чтобы закончить последний год средней школы дома, сдав специальные экзамены, которые он сдал за десять недель. Он отдалился от старых друзей: «Я стал довольно фанатичным и какое-то время чувствовал себя совершенно изолированным.

Когда Бостром был аспирантом в Стокгольме, он изучал работы философа-аналитика В. В. Куайна, исследовавшего сложные отношения между языком и реальностью. Его советник проделал с ним точную работу, написав «непонятно» на полях его бумаг. «По сути, это был его единственный отзыв», — сказал мне Бостром. «Я думаю, что эффект по-прежнему был положительным». Его предыдущие академические интересы варьировались от психологии до математики; теперь он занялся теоретической физикой.Он был очарован технологиями. Всемирная паутина только зарождалась, и он начал чувствовать, что героическая философия, которая его вдохновляла, могла быть устаревшей. В 1995 году Бостром написал стихотворение «Реквием», которое, как он сказал мне, было «письмом о подписании своего прежнего себя». Это было на шведском языке, поэтому он предложил мне синопсис: «Я описываю храброго генерала, который проспал и обнаружил, что его войска покинули лагерь. Он уезжает, чтобы догнать их, доводя свою лошадь до предела. Затем он слышит гром современного реактивного самолета, проносящегося мимо него по небу, и понимает, что он устарел, а отвага и духовное благородство не сравнятся с машинами.

Хотя Бостром этого не знал, все большее число людей во всем мире разделяло его интуицию о том, что технология может вызвать преобразующие изменения, и они находили друг друга в онлайн-дискуссионной группе, управляемой организацией в Калифорнии под названием Extropy Institute. Термин «экстропия», введенный в обращение в 1967 году, обычно используется для описания способности жизни обращать вспять распространение энтропии в пространстве и времени.Экстропианство — это либертарианская разновидность трансгуманизма, которая стремится «направить человеческую эволюцию», надеясь устранить болезни, страдания и даже смерть; средством может быть генетическая модификация, или еще не изобретенная нанотехнология, или, возможно, полное избавление от тела и загрузка разума в суперкомпьютеры. (Как заметил один из участников: «Бессмертие — это математика, а не мистика».) Экстропианцы выступали за развитие искусственного суперинтеллекта для достижения этих целей, и они предполагали, что человечество колонизирует вселенную, превращая инертную материю в двигатели цивилизации.Обсуждения были занудными, сумасшедшими, творческими, заставляющими задуматься. Андерс Сандберг, бывший член группы, который сейчас работает в институте Бострома, сказал мне: «Только представьте, можете ли вы послушать дебаты итальянских футуристов или ранних сюрреалистов».

В 1996 году, продолжая работать в аспирантуре Лондонской школы экономики, Бостром узнал о дискуссионной группе Extropy и стал ее активным участником. Год спустя он стал соучредителем своей собственной организации, Всемирной трансгуманистической ассоциации, которая была менее либертарианской и более академической.Он подготовил доступные заявления о трансгуманистических ценностях и дал интервью BBC. Граница между его академической работой и его активизмом стерлась: его докторская степень. Диссертация была посвящена исследованию Аргумента Судного дня, который использует теорию вероятностей, чтобы сделать выводы о долговечности человеческой цивилизации. Работа поставила в тупик его советников, которые уважали его, но редко соглашались с его выводами. В основном они оставили его в покое.

Бостром мало интересовался традиционной философией — не в последнюю очередь потому, что он ожидал, что сверхразум, будь то биологически усовершенствованный или цифровой, сделает ее устаревшей.«Предположим, вам нужно было построить новую линию метро, ​​и это было грандиозное предприятие, передающее поколения людей, в котором участвовало человечество, и у каждого была своя небольшая роль», — сказал он мне. «Итак, у вас есть маленькая лопата. Но если вы знаете, что завтра на место происшествия прибудет гигантский бульдозер, тогда действительно ли имеет смысл тратить свое время сегодня на копание большой ямы с помощью лопаты? Может быть, есть еще что-то, чем вы могли бы заняться со своим временем. Может быть, вы могли бы поставить указатель для большой лопаты, чтобы она начала копать в нужном месте.Он пришел к выводу, что ключевая роль философа в современном обществе состоит в том, чтобы получить знания эрудита, а затем использовать их, чтобы помочь человечеству перейти к следующему этапу его существования — дисциплину, которую он назвал «философией технологического предсказания». ” Он пытался стать таким провидцем.

«Он был очень последовательным», — сказал мне Дэниел Хилл, британский философ, который подружился с Бостромом, когда они были аспирантами в Лондоне. «Его интерес к науке был, по сути, естественным результатом его понятного желания жить вечно.»

Бостром написал более сотни статей, и его стремление к бессмертию прослеживается повсюду. В 2008 году он сформулировал эссе как призыв к действию из утопии будущего. «Смерть — это не один, а множество убийц», — предупредил он. «Нацельтесь на причины ранней смерти — инфекции, насилие, недоедание, сердечный приступ, рак. Включите свой самый большой пистолет на старение и стреляйте. Вы должны овладеть биохимическими процессами в своем теле, чтобы постепенно победить болезни и старение.Со временем вы откроете для себя способы перенести свой разум на более надежные носители ». Он склонен рассматривать разум как безупречный код, тело как неэффективное оборудование, способное выдержать ограниченное количество взломов, но, вероятно, предназначенное для замены.

Даже брак Бострома во многом опосредован технологиями. Его жена Сьюзан имеет докторскую степень. в социологии медицины и в яркой, приземленной манере. («Она дразнит меня по поводу Терминатора и армии роботов», — сказал он мне.) Они встретились тринадцать лет назад, и все, кроме шести месяцев, они жили по разные стороны Атлантики, даже после недавнего рождения сына.Соглашение добровольное: она предпочитает Монреаль; его работа держит его в Оксфорде. Они Skype несколько раз в день, и он направляет как можно больше международных поездок через Канаду, чтобы они могли встречаться в нецифровой форме.

В Оксфорде, когда Бостром делал покупки для своего смузи, он указал на мужчину, который занимается вейпингом. «Существует также более старый метод приема никотина: жевательная резинка», — сказал он мне. «Я жую никотиновую резинку. Я прочитал несколько статей, в которых говорилось, что он может иметь какой-то ноотропный эффект », то есть может улучшить познавательные способности.Он пьет кофе и обычно воздерживается от алкоголя. Он ненадолго поэкспериментировал с умным препаратом Модафинил, но отказался от него.

Вернувшись в институт, он наполнил промышленный блендер салатом, морковью, цветной капустой, брокколи, черникой, куркумой, ванилью, овсяным молоком и сухой сывороткой. «Если и есть что-то, что волнует Ника, так это умы», — сказала мне Сандберг. «Это лежит в основе многих его взглядов на еду, потому что он обеспокоен тем, что токсины X или Y могут быть вредны для его мозга». Он подозревает, что Бострому тоже нравится ритуальная демонстрация.«Шведы известны своим самодовольством», — пошутил он. «Возможно, Ник живет самодовольством».

Молодой сотрудник посмотрел на Бострома, готовящегося включить блендер. «Я могу сказать, когда Ник входит в офис», — сказал он. «Мои волосы начинают трястись».

«Да, у него три лошадиные силы», — сказал Бостром. Он включил блендер, издавая звук, похожий на шум циркулярной пилы, а затем наполнил высокую стеклянную кружку пурпурно-зеленой жидкостью. Мы направились к нему в офис, что было очень дотошно. У окна стоял деревянный стол, на котором стоял iMac, а не какой-либо другой предмет; у стены стояли стул и шкаф со стопкой документов.Единственным намеком на избыток был свет: четырнадцать ламп.

Трудно проводить время в институте Бострома, не погружаясь в мечты о далеком будущем. Как может выглядеть человечество через миллионы лет? Верхний предел выживания на Земле зафиксирован на продолжительности жизни Солнца, которое через пять миллиардов лет превратится в красного гиганта и увеличится более чем в двести раз по сравнению с нынешними размерами. Возможно, орбита Земли изменится, но более вероятно, что планета будет уничтожена.В любом случае, задолго до этого погибнет почти вся растительная жизнь, океаны закипят, а земная кора нагреется до тысячи градусов. Через полмиллиарда лет планета станет непригодной для жизни.

Вид в будущее из офиса Bostrom можно разделить на три грандиозные панорамы. В одном из них человечество совершает эволюционный скачок — либо с помощью технологий, либо путем слияния с ними и превращения в программное обеспечение — к достижению возвышенного состояния, которое Бостром называет «постгуманностью». Смерть побеждена, ментальный опыт расширяется до неузнаваемости, и наши потомки колонизируют вселенную.На другой панораме человечество вымирает или переживает настолько серьезную катастрофу, что не может восстановиться. Между этими крайностями Бостром предвидит сценарии, которые напоминают статус-кво — люди, живущие так же, как сейчас, навсегда погрязли в «человеческой эре». Это видение знакомо поклонникам научной фантастики: в «Звездном пути» капитан Кирк родился в 2233 году, но когда инопланетный портал швыряет его сквозь время и пространство на Манхэттен эпохи Депрессии, он легко сливается с ним.

Бостром не любит научную фантастику.«Мне никогда не нравились истории, которые просто пытаются представить« вау »идеи — эквивалент кинопроизводства, в котором для удержания внимания используются трюки и взрывы», — сказал он мне. «Вопрос не в том, можем ли мы придумать что-то радикальное или экстремальное, а в том, сможем ли мы найти достаточную причину для обновления нашей функции доверия».

Он считает, что будущее можно изучать с той же тщательностью, что и прошлое, даже если выводы будут гораздо менее твердыми. «Это может быть очень непредсказуемо, где путешественник будет через час после начала своего путешествия, но предсказуемо, что через пять часов он будет в пункте назначения», — однажды утверждал он.« очень долгосрочное будущее человечества можно относительно легко предсказать». Он предлагает пример: если бы история была перезагружена, промышленная революция могла бы произойти в другое время или в другом месте, а может и не произойти вовсе, а инновации вместо этого происходили бы постепенно, в течение сотен лет. В краткосрочной перспективе прогнозирование технологических достижений в контр-истории может оказаться невозможным; но, скажем, по прошествии ста тысяч лет легче представить себе, что появились бы все те же изобретения.

Бостром называет это гипотезой о завершении технологии: «Если усилия по научному и технологическому развитию не прекратятся, то будут получены все важные базовые возможности, которые можно было бы получить с помощью некоторых возможных технологий». В свете этого он подозревает, что чем дальше вы заглядываете в будущее, тем менее вероятно, что жизнь будет продолжаться такой, какая она есть. Он предпочитает далекие возможности: человечество становится трансцендентным или погибает.

В девяностые годы, когда эти идеи кристаллизовались в его мышлении, Бостром начал уделять больше внимания вопросу вымирания.Он не верил, что конец света неизбежен. Его интересовал риск, как страхового агента. Бостром утверждает, что каким бы невероятным ни было вымирание, его последствия почти бесконечно плохи; таким образом, даже самый крошечный шаг к уменьшению шанса того, что это произойдет, почти бесконечно ценен. Иногда он использует арифметические зарисовки, чтобы проиллюстрировать это положение. Вообразив один из своих утопических сценариев — триллионы цифровых умов, процветающих в космосе, — он рассуждает так: если есть хотя бы один процент вероятности того, что это произойдет, то ожидаемая ценность уменьшения экзистенциальной угрозы на одну миллиардную миллиардной доли один процент будет стоить в сто миллиардов раз больше стоимости миллиарда сегодняшних жизней.Проще говоря: он считает, что его работа может затмить моральную важность чего-либо еще.

Бостром представил философскую концепцию «экзистенциального риска» в 2002 году в журнале Journal of Evolution and Technology . В последние годы почти ежегодно создаются новые организации, чтобы помочь снизить его, в том числе Центр изучения экзистенциального риска, связанный с Кембриджским университетом, и Институт будущего жизни, связанный с Массачусетским технологическим институтом.Все они сталкиваются с ключевой проблемой: Homo sapiens с момента своего появления двести тысяч лет назад оказался чрезвычайно устойчивым, и выяснить, что может поставить под угрозу его существование, не очевидно. Изменение климата может нанести огромный экологический и экономический ущерб, но не кажется невозможным выжить. Так называемые супервулканы пока не угрожают сохранению вида. НАСА ежегодно тратит сорок миллионов долларов на определение того, есть ли значительные кометы или астероиды, направляющиеся к Земле.(Нет.)

Бострома не утешает отсутствие очевидных экзистенциальных угроз. Он утверждает, что поскольку невозможно дважды пережить вымирание, мы не можем полагаться на историю, чтобы рассчитать вероятность того, что это произойдет. Самые тревожные опасности — это те, с которыми Земля никогда раньше не сталкивалась. «Трудно вызвать вымирание человечества с помощью технологий семнадцатого века», — сказал мне Бостром. Однако три века спустя перспектива технологического апокалипсиса казалась весьма вероятной.Бостром относит первый научный анализ экзистенциального риска к Манхэттенскому проекту: в 1942 году Роберт Оппенгеймер обеспокоился тем, что атомный взрыв достаточной мощности может вызвать возгорание всей атмосферы. Последующее исследование пришло к выводу, что сценарий был «необоснованным», учитывая ограничения оружия, находившегося в то время в разработке. Но даже если великие ядерные кошмары «холодной войны» и не сбылись, все равно были инструменты, чтобы вызвать разрушения в ранее невозможных масштабах.По мере того, как инновации становятся еще более сложными, становится все труднее оценить предстоящие опасности. Ответы должны быть полны двусмысленности, потому что они могут быть получены только путем прогнозирования эффектов технологий, которые существуют в основном в виде теорий, или, что еще более косвенно, с помощью абстрактных рассуждений.

Ник Бостром спрашивает, спроектируем ли мы собственное вымирание?

Как философ, Бостром придерживается широкого, даже космического, взгляда на такие проблемы. Однажды днем ​​он сказал мне: «Вероятности того, что любая данная планета будет производить разумную жизнь, — это также может содержать информацию, относящуюся к действию.«За последние несколько лет зондов НАСА обнаружили все больше свидетельств того, что строительные блоки жизни изобилуют в космосе. Было обнаружено столько воды — на Марсе, спутниках Юпитера и Сатурна, — что один ученый описал нашу солнечную систему как «довольно сырое место». На ледяных кометах есть аминокислоты, а в далеких облаках звездообразования — сложные органические молекулы. На этой планете жизнь доказала свою способность процветать в невообразимо суровых условиях: без кислорода, без света, при четырехстах градусах выше или ниже нуля.В 2007 году Европейское космическое агентство прицепило крошечных существ к внешнему виду спутника. Они не только пережили полет; некоторые после этого даже откладывали яйца.

Имея десять миллиардов планет земного типа в одной только нашей галактике и сто миллиардов галактик во Вселенной, есть веские основания подозревать, что внеземная жизнь может быть однажды обнаружена. Для Бострома это предвещало катастрофу. «Было бы отличной новостью узнать, что Марс — совершенно бесплодная планета», — утверждал он не так давно.«Мертвые камни и безжизненный песок поднимут мне настроение». Его рассуждения начинаются с возраста Вселенной. Считается, что многие из этих планет, похожих на Землю, намного старше нашей. Недавно обнаруженный объект под названием Kepler 452b старше на полтора миллиарда лет. Бостром спрашивает: если бы жизнь сформировалась там в масштабе времени, напоминающем нашу, как бы она выглядела? Какого технологического прогресса могла достичь цивилизация с опережением в сотни миллионов лет?

Жизнь в том виде, в каком мы ее знаем, имеет тенденцию распространяться повсюду, и Бостром оценивает, что, если бы инопланетная цивилизация смогла разработать космические зонды, способные путешествовать хотя бы на один процент скорости света, весь Млечный Путь мог быть колонизирован за двадцать миллионов лет — крошечная доля разницы в возрасте между Kepler 452b и Землей.Кто-то может возразить, что никакая технология никогда не сможет двигать корабли с такой большой скоростью. Или, возможно, миллионы инопланетных цивилизаций обладают ноу-хау для межгалактических путешествий, но им это неинтересно. Даже в этом случае, поскольку Вселенная настолько колоссальна и настолько стара, лишь небольшому числу цивилизаций потребуется вести себя так, как жизнь на Земле — непрерывно расширяясь, — чтобы быть видимыми. Тем не менее, как отмечает Бостром, «вы начинаете с миллиардов и миллиардов потенциальных точек прорастания жизни, а в итоге получаете в сумме ноль инопланетных цивилизаций, которые технологически развивались до такой степени, что они становятся очевидными для нас, земных наблюдателей.Так что им мешает? »

В 1950 году Энрико Ферми набросал версию этого парадокса во время обеденного перерыва, когда он работал над водородной бомбой в Лос-Аламосе. С тех пор было предложено много решений — некоторые из них экзотические, например, идея о том, что Земля находится в межпланетном инопланетном зоопарке. Бостром подозревает, что ответ прост: пространство кажется лишенным жизни, потому что оно есть. Это означает, что разумная жизнь на Земле — это астрономически редкая авария. Но если да, то когда произошла эта авария? Были ли это первые химические реакции в изначальном супе? Или когда одноклеточные организмы начали размножаться с помощью ДНК? Или когда животные научились пользоваться инструментами? Бостром любит думать об этих препятствиях как о великих фильтрах: ключевых фазах невероятности, через которые должна пройти жизнь повсюду, чтобы развиться в разумные виды.Те, которые его не заставляют, либо вымирают, либо не эволюционируют.

Таким образом, для Бострома открытие одноклеточного существа, населяющего влажный участок марсианской почвы, стало бы обескураживающим свидетельством. Если на двух планетах независимо развились примитивные организмы, то более вероятно, что этот тип жизни можно найти на многих планетах по всей вселенной. Бостром считает, что это говорит о том, что Великий фильтр появился на более поздней стадии эволюции. Открытие окаменелого позвоночного было бы еще хуже: оно предполагает, что Вселенная кажется безжизненной не потому, что сложная жизнь необычна, а, скорее, потому, что ей всегда каким-то образом мешают, прежде чем она станет достаточно развитой, чтобы колонизировать космос.

По мнению Бострома, наиболее неприятная возможность состоит в том, что Великий фильтр впереди нас — что эволюция часто приводит к появлению таких же цивилизаций, как наша, но они погибают, не достигнув своей технологической зрелости. Почему это могло быть? «Стихийные бедствия, такие как удары астероидов и извержения супервулканов, вряд ли являются кандидатами в Великий фильтр, потому что, даже если они уничтожат значительное количество цивилизаций, мы ожидаем, что некоторым цивилизациям повезет и они избежят катастрофы», — утверждает он.«Возможно, наиболее вероятным типом рисков для существования, которые могут стать Великим фильтром, являются те, которые возникают в результате технологических открытий. Нет ничего удивительного в том, чтобы предположить, что может существовать какая-то возможная технология, которая такова, что (а) практически все достаточно развитые цивилизации в конечном итоге обнаруживают ее и (б) ее открытие почти во всех случаях приводит к экзистенциальной катастрофе ».

II. Машины

Область искусственного интеллекта зародилась в припадке научного оптимизма в 1955 году, когда небольшая группа исследователей — три математика и один ученый.Б.М. программист — составил предложение по проекту в Дартмуте. «Будет предпринята попытка найти, как заставить машины использовать язык, формировать абстракции и концепции, решать виды проблем, которые теперь предназначены только для людей, и улучшать себя», — заявили они. «Мы думаем, что можно добиться значительного прогресса в решении одной или нескольких из этих проблем, если тщательно отобранная группа ученых будет вместе работать над ней в течение лета».

Их оптимизм был понятен. С начала двадцатого века наука развивалась головокружительными темпами: открытие радиоактивности быстро привело к пониманию внутренней работы атома, затем к развитию контролируемой ядерной энергии, а затем к боеголовкам над Хиросимой. и Нагасаки, а затем водородная бомба.Этот наплыв открытий нашел отражение и в художественной литературе, среди прочего, в работах Айзека Азимова, который представлял себе развитые цивилизации, населенные интеллектуальными роботами (каждая из которых закодирована простыми этическими законами робототехники, чтобы предотвратить нанесение вреда). В год, когда ученые встретились в Дартмуте, Азимов опубликовал «Последний вопрос», рассказ о сверхразумном А.И. это постоянно «самонастраивающийся и самокорректирующийся» — приобретение знаний, помогающих человеческой цивилизации расширяться по всей вселенной.Когда последние звезды Вселенной начинают умирать, все человечество загружается в ИИ, и устройство, достигая божественности, создает новый космос.

Ученые воспринимали механику интеллекта — как и механизмы атома — как источник огромного потенциала, великую границу. Если мозг был просто биологической машиной, не было теоретической причины, по которой его нельзя было бы воспроизвести или даже превзойти, так же как реактивный самолет может победить сокола. Еще до Дартмутской конференции машины превосходили человеческие возможности в узких областях, таких как взлом кода.В 1951 году Алан Тьюринг утверждал, что в какой-то момент компьютеры, вероятно, превзойдут интеллектуальный потенциал своих изобретателей, и что «поэтому мы должны ожидать, что машины возьмут на себя управление». Хорошо это или плохо, он не сказал.

Шесть лет спустя Герберт Саймон, один из участников Дартмута, заявил, что машины достигнут человеческого интеллекта «в обозримом будущем». Он подозревал, что переход через такой порог может быть психологически сокрушительным, но в целом был настроен оптимистично.«Мы также должны оставаться чувствительными к необходимости согласовывать цели компьютера с нашими собственными», — сказал он позже, но добавил: «Я не уверен, что это будет сложно». Для других компьютерных пионеров будущее выглядело более амбивалентным. Норберт Винер, отец кибернетики, утверждал, что будет сложно управлять мощными компьютерами или даже точно предсказывать их поведение. «Полное подчинение и полная разведка несовместимы», — сказал он. Представляя сценарии «Ученик чародея», он предсказал: «Будущее будет все более сложной борьбой с ограничениями нашего интеллекта, а не удобным гамаком, в котором мы можем лечь, чтобы нас могли ждать наши роботы-рабы.

Именно в этой среде идея «интеллектуального взрыва» была впервые официально выражена И. Дж. Гудом, статистиком, работавшим с Тьюрингом. «Сверхразумная машина может создавать машины даже лучше», — писал он. «Тогда, несомненно, произошел бы« интеллектуальный взрыв », и человеческий разум остался бы далеко позади. Таким образом, первая сверхразумная машина — это , последнее изобретение , которое когда-либо понадобится человеку, при условии, что машина достаточно послушна, чтобы подсказывать нам, как держать ее под контролем.Любопытно, что за пределами научной фантастики об этом так редко говорят. Иногда стоит серьезно относиться к научной фантастике ».

Ученые из Дартмута признали, что для успеха необходимы ответы на фундаментальные вопросы: что такое интеллект? Что такое ум? К 1965 году в этой области экспериментировали с несколькими моделями решения проблем: некоторые из них были основаны на формальной логике; некоторые использовали эвристические рассуждения; некоторые из них, так называемые «нейронные сети», были созданы мозгом. По каждому из них работа ученых показала, что А.I. системы могли найти свои собственные решения проблем. Один алгоритм доказал множество теорем в классическом тексте «Principia Mathematica», и в одном случае он сделал это более элегантно, чем авторы. Программа, предназначенная для игры в шашки, научилась побеждать своего программиста. И все же, несмотря на большие перспективы этих экспериментов, проблемы создания искусственного интеллекта. были запрещающими. Программы, которые хорошо работали в лаборатории, были бесполезны в повседневных ситуациях; оказалось, что такое простое действие, как поднятие мяча, требует огромного количества вычислений.

Исследование попало в первое из нескольких «А.И. зимы ». Как отмечает Бостром в своей книге: «Среди ученых и их спонсоров« ИИ »стал нежелательным эпитетом». В конце концов, исследователи вообще начали ставить под сомнение цель построения разума. Почему бы вместо этого не попробовать разделить проблему на части? Они начали ограничивать свои интересы конкретными когнитивными функциями: зрением, скажем, или речью. Даже по отдельности эти функции будут иметь значение: компьютер, который может идентифицировать объекты, может не соответствовать А.Я., но это может помочь направить погрузчик. Поскольку исследование фрагментировалось, из-за трясины технических проблем любые вопросы о последствиях успеха казались далекими и даже глупыми.

Неожиданно, отбросив свои основополагающие цели, поле A.I. создали пространство для посторонних, чтобы они могли более свободно представить, как могла бы выглядеть технология. Бостром написал свою первую статью об искусственном суперинтеллекте в девяностых годах прошлого века, рассматривая ее как потенциально опасную, но непреодолимую как для коммерции, так и для правительства.«Если есть способ гарантировать, что превосходный искусственный интеллект никогда не причинит вреда людям, тогда такие интеллекты будут созданы», — утверждал он. «Если нет возможности получить такую ​​гарантию, то они, вероятно, все же будут созданы». Его аудиторией в то время были в основном другие трансгуманисты. Но движение набирало обороты. В 2005 году организация под названием Singularity Institute for Artificial Intelligence начала свою деятельность в Кремниевой долине; его основной основатель, бывший член дискуссионной группы Extropian, опубликовал поток литературы об опасностях А.I. В том же году футурист и изобретатель Рэй Курцвейл написал «Сингулярность близка», бестселлер, предсказывающий слияние человека и машины в обозримом будущем. Бостром создал свой институт в Оксфорде.

Эти две общины не могли быть более разными. Ученые, разбирающиеся в технических деталях, были заняты созданием работающих устройств; трансгуманисты, движимые надеждой на утопическое будущее, спрашивали: каково будет окончательное воздействие этих устройств? В 2007 году Ассоциация по развитию искусственного интеллекта — самая известная профессиональная организация А.I. Исследователи — избрали своим президентом Эрика Хорвица, ученого из Microsoft. До этого он практически не уделял внимания этическим и социальным последствиям исследования, но Хорвиц был открыт для серьезных вопросов. «Трудно понять, что будет означать успех для искусственного интеллекта», — сказал он мне. «Я был дружен с Джеком Гудом, который написал статью о суперинтеллекте. Я знал его как творческого, веселого парня, который называл многие свои идеи личными доходами — частично спеченными идеями. И вот этот фрагмент его вскрытия вне поля, как эта Библия, и изучения серебряным указателем.Разве не было бы полезно, — сказал я, — даже если бы вы подумали, что это сумасшедшие или маловероятные сценарии, — выяснить: можем ли мы действовать на опережение, если для человечества будет какой-то плохой результат? »

Хорвиц организовал встречу в конференц-зале Асиломар в Калифорнии, месте, выбранном из-за его символической ценности: биологи собрались там в 1975 году, чтобы обсудить опасности своих исследований в век современной генетики. Он разделил исследователей на группы. Один из них изучал краткосрочные последствия, такие как возможное использование A.I. совершать преступления; другой рассматривал долгосрочные последствия. В основном скептицизм относился к идее взрыва разведки, предполагавшей ответы на многие нерешенные вопросы. Никто до конца не понимает, что такое интеллект, не говоря уже о том, как он может развиваться в машине. Сможет ли он вырасти так, как предполагал Гуд, с повышением интеллекта? указывает на стремительный рост цен на акции? Если да, то каков будет его верхний предел? И будет ли его увеличение просто функцией оптимизированного дизайна программного обеспечения без сложного процесса приобретения знаний через опыт? Может ли программное обеспечение коренным образом переписаться без риска серьезных поломок? Никто не знает.В истории информатики ни один программист не создал кода, который мог бы существенно улучшить себя.

Но и идею взрыва разведки опровергнуть было невозможно. Это было теоретически последовательным, и даже попытки этого были ограничены. Дэвид Макаллестер, специалист по искусственному интеллекту. Исследователь из Технологического института Тойоты, аффилированного с Чикагским университетом, возглавил долгосрочную комиссию. Он утверждал, что к этой идее стоит отнестись серьезно.«Мне неудобно говорить, что мы на девяносто девять процентов уверены, что в течение пятидесяти лет мы в безопасности», — сказал он мне. «Мне это кажется высокомерием». Группа пришла к выводу, что необходимо провести дополнительную техническую работу, прежде чем можно будет провести оценку опасностей, но также намекнули на обеспокоенность участников дискуссии тем, что собрание было основано на « восприятии срочности», порожденном в основном трансгуманистами, и рисковал поднять необоснованную тревогу. Вместе с А. Исследователи заявили, что это кажется отдаленной перспективой, поэтому лучше сосредоточить внимание на ближайших проблемах.Барт Селман, профессор Корнельского университета, который был одним из организаторов дискуссии, сказал мне: «Режим был такой:« Это интересно, но все академично — этого не произойдет »».

В то время исследователи ИИ встретились в Асиломаре. , Бостром боролся с обширной книгой об экзистенциальных рисках. Он набросал главы, посвященные биоинженерии и нанотехнологиям, среди других тем, но многие из этих проблем стали казаться менее интересными, в то время как его глава об искусственном интеллекте. рос и рос. В конце концов, он вставил A.I. в новый файл, который стал называться «Сверхразум».

Книга представляет собой элегантный парадокс: аналитический тон и часто доходчиво аргументированный, но подчеркнутый моментами мессианской срочности. Некоторые порции настолько экстравагантно спекулятивны, что их трудно воспринимать всерьез. («Предположим, мы могли бы каким-то образом установить, что определенный будущий ИИ будет иметь IQ в 6 455 баллов: что тогда?») Но Бостром осознает пределы своего типа футурологии. Когда он был аспирантом в Лондоне, думая о том, как максимизировать свои коммуникативные способности, он занимался стендап-комедией; у него невозмутимое чувство юмора, которое легко скрывается среди самонадеянных отрывков книги.«Многие моменты, изложенные в этой книге, вероятно, ошибочны», — пишет он, добавляя сноску к строке «Я не знаю, какие именно».

Бостром предпочитает действовать как картограф, а не полемист, но под его исчерпывающим картированием сценариев можно почувствовать, что строится аргумент и, возможно, бояться откровенно высказаться по этому поводу. «Традиционно эту тематическую область занимают чудаки», — сказал он мне. «Популярными СМИ, научной фантастикой — или, может быть, физиком на пенсии, который больше не может заниматься серьезной работой, поэтому он напишет популярную книгу и понтификат.Это своего рода уровень строгости, который является базовым. Я думаю, что по многим причинам, по которым не было более серьезной работы в этой области, является то, что ученые не хотят, чтобы их связывали с пустяковыми и чокнутыми вещами. Футуристы — это определенный тип ».

Книга начинается с «незаконченной» басни о стае воробьев, которые решили вырастить сову, чтобы защитить их и дать им совет. Они отправляются искать совиное яйцо, чтобы украсть и принести его к своему дереву, но, поскольку они верят, что их поиск будет очень трудным, они откладывают изучение того, как приручить сову, пока не добьются успеха.Бостром заключает: «Неизвестно, чем закончится эта история».

Притча — это его способ задать основной вопрос книги: будет ли ИИ, если он будет реализован, использовать свои огромные возможности таким образом, который не поддается контролю человека? Один из способов подумать об этом — начать со знакомого. Бостром пишет: «Искусственный интеллект уже превосходит человеческий интеллект во многих областях». Примеры варьируются от шахмат до скрэббла. Одна из программ 1981 года под названием Eurisko была разработана для обучения морской ролевой игре.Сыграв десять тысяч матчей, он пришел к морально гротескной стратегии: выставить тысячи маленьких неподвижных кораблей, подавляющее большинство из которых предназначались в качестве пушечного мяса. В национальном турнире Eurisko уничтожил своих противников-людей, которые настаивали на изменении правил игры. В следующем году Eurisko снова победила, заставив свои поврежденные корабли тонуть.

Программа ни в коем случае не была сверхразумной. Но книга Бострома, по сути, спрашивает: а что, если бы это было так? Предположим, что у него есть широкие возможности для рассмотрения проблем и что у него есть доступ к Интернету.Он мог читать, получать общие знания и беспрепятственно общаться с людьми в Интернете. Он мог проводить эксперименты виртуально или возиться с сетевой инфраструктурой. При наличии даже самой благоприятной цели — выиграть игру — такая система, утверждает Бостром, могла бы развить «инструментальные цели»: собрать ресурсы или изобрести технологию или предпринять шаги, чтобы гарантировать, что ее нельзя отключить, при этом оплачивая много внимания уделяют человеческой жизни, как люди относятся к муравьям.

У людей интеллект неотделим от сознания, эмоциональной и социальной осведомленности, сложного взаимодействия разума и тела.А.И. не обязательно иметь такие атрибуты. Бостром считает, что машинный интеллект — независимо от того, насколько гибки его тактики, — скорее всего, будет жестко привязан к своим конечным целям. Как же тогда создать машину, которая учитывает нюансы социальных сигналов? Что придерживается этических норм даже в ущерб своим целям? Ни у кого нет внятного решения. Достаточно сложно надежно привить людям такое поведение.

В научной фантастике взбесившиеся сверхразумные компьютеры часто обходятся в последнюю минуту; подумайте о WOPR, компьютере в «Военных играх», который был остановлен незадолго до начала ядерной войны, или HAL 9000, который превратился в беспомощное пение, наблюдая, как его разбирают.Для Бострома это подрывает доверчивость. Будь то из желания задуматься о дальних концах риска или из-за трансгуманистических стремлений, он часто приписывает почти божественные способности машинам, как будто спрашивая: действительно ли можно сдержать цифрового бога? Он представляет машины настолько умными, что, просто изучая свой собственный код, они могут экстраполировать природу вселенной и человеческого общества и таким образом перехитрить любые попытки сдержать их. «Можно ли построить машины, не похожие на агентов — преследующие цели, автономные, искусственные интеллекты?» он спросил меня.«Может быть, вы сможете создать что-то более похожее на оракула, который может отвечать только« да »или« нет ». Так было бы безопаснее? Не все так однозначно. В нем могут быть агентоподобные процессы ». Задание простого вопроса — «Можно ли превратить DeLorean в машину времени и отправиться в 1955 год?» — может вызвать каскад действий, поскольку устройство проверяет гипотезы. Что, если, работая через полицейский компьютер, он конфискует DeLorean, который окажется удобным для башни с часами? «В сказках есть джинны, исполняющие желания», — сказал Бостром.«Почти повсеместно мораль таких людей состоит в том, что если вы не будете предельно осторожны в своих желаниях, то то, что кажется великим благословением, обернется проклятием».

Бостром обеспокоен тем, что решение «проблемы управления» — обеспечение того, чтобы сверхразумная машина выполняла то, что люди хотят от нее, — потребует больше времени, чем решение искусственного интеллекта. делает. Взрыв интеллекта — не единственный способ внезапного создания суперинтеллекта. Бостром однажды обрисовал в общих чертах процесс, длившийся десятилетиями, в ходе которого исследователи усиленно улучшали свои системы, чтобы сравняться с интеллектом мыши, затем шимпанзе, а затем — после невероятного труда — деревенского идиота.«Разница между деревенским идиотом и интеллектом гениального уровня может быть тривиальной с точки зрения того, насколько сложно воспроизвести те же функции в машине», — сказал он. «Мозг деревенского идиота и мозг научного гения почти идентичны. Так что мы вполне можем увидеть относительно медленный и постепенный прогресс, который на самом деле не вызовет никаких тревог, пока мы не окажемся всего в одном шаге от чего-то радикально сверхразумного ».

В значительной степени озабоченность Бострома сводится к простому вопросу о сроках: можно ли предсказать прорывы? «Смешно так рано говорить о таких вещах, — А.«Я от меня целую вечность», — сказал мне Эдвард Фейгенбаум, почетный профессор Стэнфордского университета. Исследователь Орен Эциони, который использовал термин «комплекс Франкенштейна», чтобы отвергнуть «антиутопическое видение искусственного интеллекта», признает основополагающую точку зрения Бострома: однажды эта область должна столкнуться с глубокими философскими вопросами. Десятилетия назад он сам исследовал их в краткой статье, но пришел к выводу, что проблема слишком далека, чтобы о ней можно было думать продуктивно. «Однажды Ник Бостром выступил с речью, и я дал небольшой контрапункт, — сказал он мне.«Многие разногласия сводятся к тому, о каком временном масштабе вы думаете. Никто из ответственных лиц не сказал бы, что вы увидите что-нибудь отдаленно похожее на A.I. в ближайшие пять-десять лет. И я думаю, что большинство компьютерных ученых сказали бы: «Через миллион лет — мы не понимаем, почему этого не должно произойти». Итак, теперь вопрос: какова скорость прогресса? Многие спросят: возможно ли , что мы ошибаемся? Да. Я не собираюсь этого исключать. Я собираюсь сказать: «Я ученый. Покажи мне доказательства.’”

История науки — непостоянный справочник по вопросу: насколько мы близки? В невыполненных обещаниях недостатка не было. Но есть также множество примеров поразительной близорукости — закономерности, которую Артур Кларк закрепил в качестве Первого закона Кларка: «Когда выдающийся, но пожилой ученый заявляет, что что-то возможно, он почти наверняка прав. Когда он заявляет, что что-то невозможно, он, скорее всего, ошибается ». После открытия электрона в Кембридже в 1897 году физики на ежегодном обеде произнесли тост: «За электрон: пусть он никогда никому не пригодится.Всего за восемь лет до того, как братья Райт стартовали с Китти-Хок, лорд Кельвин заявил, что полеты тяжелее воздуха невозможны.

Стюарт Рассел, соавтор учебника «Искусственный интеллект: современный подход» и один из самых ярых сторонников Бострома в области искусственного интеллекта, сказал мне, что он изучал физическое сообщество во время появления ядерного оружия. На рубеже двадцатого века Эрнест Резерфорд обнаружил, что тяжелые элементы производят излучение в результате атомного распада, подтвердив, что в атоме хранятся огромные резервуары энергии.Резерфорд считал, что эту энергию невозможно использовать, и в 1933 году он провозгласил: «Любой, кто ожидает источника энергии от преобразования этих атомов, говорит о самогоне». На следующий день бывший ученик Эйнштейна по имени Лео Сцилард прочитал комментарий в газетах. Раздраженный, он пошел на прогулку, и ему в голову пришла идея ядерной цепной реакции. Он посетил Резерфорда, чтобы обсудить это, но Резерфорд выгнал его. Эйнштейн тоже скептически относился к ядерной энергии — произвольное расщепление атомов, по его словам, было «похоже на стрельбу по птицам в темноте в стране, где есть всего несколько птиц.Десять лет спустя интуиция Сцилларда была использована для создания бомбы.

Рассел теперь рассказывает историю А.И. исследователи как поучительная история. «Должно быть больше прорывов, чтобы добраться до ИИ, но, как проиллюстрировал Сциллард, они могут произойти в мгновение ока», — сказал он мне. «Люди вкладывают миллиарды долларов в эти открытия. В ходе дебатов Бостром и другие сказали: «Если мы достигнем суперинтеллекта, вот некоторые из проблем, которые могут возникнуть». Насколько мне известно, никто не доказал, почему они не реальны.»

III. Центр управления полетами

Офисы Института будущего человечества имеют смешанную атмосферу: частично физическая лаборатория, частично комната общежития колледжа. Есть белые доски с математическими обозначениями и техническими символами; есть плакаты «О дивный новый мир» и HAL 9000. Есть также художественные работы Ника Бострома. Однажды днем ​​он привел меня к одному из своих произведений «В море» — цифровому коллажу, который он распечатал, а затем нарисовал. «Он немного поврежден, но цифровая технология хороша тем, что вы можете воссоздать ее», — сказал он.В центре был бледный мужчина, почти привидение, цеплявшийся за бочку в чернильно-черном океане. «Это экзистенциалистская атмосфера. Вы держитесь так долго, как можете. Когда вы устаете, вы тонете и становитесь кормом для рыбы — или, может быть, течение унесет его на берег. Мы не знаем.

Несмотря на время, которое он тратит на конференции и сбор денег, Бостром в институте уделяет внимание многим деталям. «Когда мы начинали, нам нужен был логотип», — сказал он мне. «Мы зашли на этот онлайн-сайт, где можно было купить работы художников-фрилансеров.Если вы сели и попытались сделать самый уродливый логотип, вы не смогли бы приблизиться. Затем мы наняли дизайнера, который сделал расплывчатую фигуру человека. Мы показали это кому-то здесь, и он сказал, что это похоже на туалетную вывеску. Как только она это сказала, я подумал: «Боже мой, мы почти приняли знак туалета в качестве нашего логотипа». Так что я немного поиграл и нашел черный бриллиант. У вас есть черный монолит из «2001». Стоящий на углу, он указывает на нестабильность. Кроме того, есть предел тому, насколько уродливым может быть черный квадрат.

Институт делит офисные помещения с Центром эффективного альтруизма, и обе организации пересекаются с общественным движением, которое продвигает чистую рациональность как руководство к нравственным действиям. Тоби Орд, философ, работающий с обоими, сказал мне, что Бостром часто появляется в его офисе в конце дня, ставит проблему, а затем оставляет его размышлять над ней на ночь. Одним из первых вопросов Бострома был следующий: если окажется, что вселенная содержит бесконечное количество существ, то как действия одного человека могут повлиять на космический баланс страдания и счастья? После долгих дискуссий они оставили парадокс неразрешенным.«Я думаю, что мы разберемся с этим позже», — сказал мне Орд.

Когда я спросил Бострома, могу ли я понаблюдать за дискуссией в институте, он, похоже, отказался; было трудно судить, беспокоился ли он о том, что мое присутствие может помешать, или что нефильтрованные разговоры, скажем, о созданных патогенах могут вдохновить преступников. («В какой-то момент человек попадает в область информационной опасности», — намекнул он.) В конце концов, он позволил мне понаблюдать за сеансом в зале Петрова с участием полдюжины сотрудников.Ключевой вопрос, который обсуждался, заключался в том, может ли глобальная катастрофа, подобная общеконтинентальному голоду, спровоцировать серию геополитических событий, которые приведут к вымиранию человечества, и означает ли это, что чисто катастрофический риск может быть воспринят как серьезный как экзистенциальный риск. Бостром, одетый в серую толстовку поверх синей пуговицы, с видимым удовольствием разложил задачу на доске. Андерс Сандберг рассказал мне, что однажды он провел несколько дней с Бостромом, работая над такой проблемой, извлекая сложный аргумент из ее сути.«Ему пришлось доработать », — сказал он. «У нас было много схем на доске, которые постепенно были упрощены до одного прямоугольника и трех стрелок».

Для всех, кто занимается пропагандой рисков существованию, 2015 год начался как хороший год. Другие институты, занимающиеся этими вопросами, начали обретать свой голос, придавая дополнительный лоск респектабельности идеям, изложенным в книге Бострома. Люди, которые сейчас набирают вес, больше не были просто бывшими экстропийцами. Они были аттестованы, как лорд Мартин Рис, астрофизик и соучредитель Кембриджского центра изучения экзистенциального риска.В январе он написал об искусственном интеллекте в Evening Standard : «Мы не знаем, где проходит граница между тем, что может случиться, и тем, что останется научной фантастикой».

Коллега Риса из Института будущего жизни, Массачусетский технологический институт. физик Макс Тегмарк провел встречу за закрытыми дверями в Пуэрто-Рико, чтобы попытаться разобраться в долгосрочной траектории исследования. Бостром полетел вниз, присоединившись к миксу А. практикующих, ученых-юристов и, за неимением лучшего термина, членов «А.I. безопасность ». «Это не люди, которые обычно находятся в одной комнате, — сказал мне Тегмарк. «Кто-то посоветовал мне добавлять валиум в напитки, чтобы никто не дрался. Но к моменту начала сеанса Ника люди были готовы слушать друг друга ». Вопросы, которые всего семь лет назад казались исследователям фантастическими, начали казаться, что их стоит пересмотреть. В то время как встреча в Асиломаре завершилась выражением скептицизма по поводу обоснованности всего начинания, конференция в Пуэрто-Рико привела к открытому письму, подписанному многими видными исследователями, в котором содержится призыв к дополнительным исследованиям, чтобы гарантировать, что А.I. будет «сильным и полезным».

Между двумя конференциями в этой области произошла революция, основанная на подходе, называемом глубоким обучением — типе нейронной сети, которая может распознавать сложные закономерности в огромных объемах данных. В течение десятилетий исследователи, ограниченные возможностями своего оборудования, изо всех сил пытались заставить эту технику работать хорошо. Но начиная с 2010 года растущая доступность больших данных и дешевых, мощных процессоров для видеоигр резко повлияла на производительность.Без какого-либо глубокого теоретического прорыва глубокое обучение внезапно привело к захватывающим успехам. «Я разговаривал со многими современниками, — сказал мне Стюарт Рассел. «Практически каждый видит примеры прогресса, которого они просто не ожидали». Он процитировал видеоролик на YouTube о четвероногом роботе: один из его дизайнеров пытается сбить его с ног, но он быстро восстанавливает равновесие, борясь со сверхъестественной естественностью. «Проблема, которая считалась очень сложной и продвигалась медленно и постепенно, была внезапно решена.Передвижение: сделано ».

Во множестве областей — обработка речи, распознавание лиц, языковой перевод — подход был преобладающим. Исследователи, работающие над компьютерным зрением, потратили годы на создание систем для идентификации объектов. Практически мгновенно сети глубокого обучения побили свои рекорды. В одном обычном тесте, использующем базу данных под названием ImageNet, люди идентифицируют фотографии с пятипроцентной вероятностью ошибок; Сеть Google работает на 4,8 процента. А.И. системы могут отличить пемброк-вельш-корги от кардиган-вельш-корги.

В октябре прошлого года Томазо Поджио, сотрудник Массачусетского технологического института. исследователь дал скептическое интервью. «Возможность описать содержание изображения будет одной из самых интеллектуальных задач для машины», — сказал он. «Нам понадобится еще один цикл фундаментальных исследований, чтобы решить этот вопрос». Он предсказал, что цикл займет не менее двадцати лет. Месяц спустя Google объявил, что его сеть глубокого обучения может анализировать изображение и предлагать подпись к увиденному: «Две пиццы на плите» или «Люди делают покупки на открытом рынке».«Когда я спросил Поджио о результатах, он отверг их как автоматические ассоциации между объектами и языком; система не понимала то, что она видела. «Может быть, человеческий интеллект — это то же самое, и в этом случае я ошибаюсь, или нет, и в этом случае я был прав», — сказал он мне. «Как вы решите?»

Уважаемое меньшинство А.И. исследователи начали задаваться вопросом: если бы все более мощное оборудование могло способствовать революции глубокого обучения, сделало ли бы это другое долгое время искусственный интеллект?принципы жизнеспособны? «Предположим, что мозг — это всего лишь миллион различных эволюционно разработанных приемов: один для обоняния, другой для распознавания лиц, третий для того, как вы распознаете животных», — сказал мне Том Митчелл, заведующий кафедрой машинного обучения в Карнеги-Меллон. «Если это то, что лежит в основе интеллекта, то я думаю, что мы далеки от этого, потому что у нас не так много хаков. С другой стороны, предположим, что в основе интеллекта лежат двадцать три общих механизма, и когда вы соединяете их вместе, вы получаете синергию, и она работает.Теперь у нас есть системы, которые могут неплохо справляться с компьютерным зрением — и оказывается, что нам не пришлось создавать миллион хаков. Так что часть неопределенности заключается в следующем: если нам не понадобится миллион различных хаков, то найдем ли мы правильные двадцать три фундаментальных универсальных метода? » Он сделал паузу. «У меня больше нет ощущения, которое было у меня двадцать пять лет назад, что есть зияющие дыры. Я знаю, что у нас нет хорошей архитектуры для объединения идей, но для меня не очевидно, что нам не хватает компонентов.

Бостром заметил изменение отношения. Недавно он провел опрос A.I. исследователи оценили свое чувство прогресса, а в Пуэрто-Рико опрос собрал мнения о том, сколько времени пройдет, прежде чем искусственный интеллект сможет рассуждать неотличимо от человеческого. Как и Бостром, инженеры часто стараются выражать свои взгляды как вероятности, а не как факты. Ричард Саттон, канадский ученый-компьютерщик, работа которого получила десятки тысяч научных цитирований, дает ряд результатов: существует 10-процентная вероятность, что А.I. никогда не будет реализован, но вероятность того, что он появится к 2030 году, составляет двадцать пять процентов. Средний ответ в опросе Бострома дает пятьдесят на пятьдесят шанс, что искусственный интеллект человеческого уровня. будет достигнуто к 2050 году. Эти опросы ненаучны, но он достаточно уверен, чтобы предложить интерпретирующее предположение: «Это не смешная перспектива серьезно относиться к возможности того, что это может произойти при жизни людей, живущих сегодня».

В мой последний день в Оксфорде я гулял с Бостромом по городу. Он мчался, чтобы сесть на поезд в Лондон, чтобы выступить в Королевском обществе, одном из старейших научных учреждений мира.Его настроение было приподнятым. Пропасть между трансгуманистами и научным сообществом постепенно сокращалась. Илон Маск пообещал выделить десять миллионов долларов в виде грантов для ученых, стремящихся исследовать искусственный интеллект. безопасность, и вместо того, чтобы издеваться над ним, исследователи просили деньги; Институт Бострома помогал оценить предложения. «Прямо сейчас есть большой интерес», — сказал он мне. «Но потом были все эти долгие годы, когда казалось, что никто вообще не обращал внимания. Я не уверен, что является менее ненормальным.

У этого интереса были четкие пределы. Публично занять позицию в середине дискуссии было сложно, не в последнюю очередь из-за поляризованной атмосферы, которую книга Бострома помогла создать. Несмотря на то, что все большее число исследователей начинали подозревать, что возникли серьезные вопросы и что на них, возможно, стоит ответить сейчас, это не означало, что они верили в ИИ. неизбежно приведет к экзистенциальному упадку или техно-утопии. Большинство из них были заняты более насущными проблемами: личная жизнь, безработица, вооружение, буйные автомобили без водителя.Когда я спросил Бострома об этом прагматическом этическом пробуждении, он отреагировал встревоженно. «Я опасаюсь, что в долгосрочной перспективе это поглотит опасения», — сказал он. «С другой стороны, да, может быть, полезно наводить мосты между этими разными сообществами. Вид делает проблему частью более широкого круга задач, над которыми нужно работать ».

В Королевском обществе Бостром занял место в задней части большого зала. Когда он скрестил ноги, я заметил тонкую кожаную ленту вокруг его лодыжки. На металлической пряжке была выгравирована контактная информация Alcor, крионического центра в Аризоне, где Бостром является платным участником.Через несколько часов после своей смерти Алькор возьмет под стражу его тело и будет хранить его в гигантской стальной бутылке, залитой жидким азотом, в надежде, что однажды технологии позволят ему возродиться или загрузить его разум в компьютер. Когда он записался, к нему присоединились двое других коллег по институту. «Мое прошлое — трансгуманизм», — напомнил он мне однажды. «Характер этого фанатичного техно-чирлидинга, давай, давай, где мои таблетки для продления жизни».

Зал был заполнен одними из самых технически продвинутых исследователей А.Я — не обязательно люди Бострома — и когда он заговорил, он начал с попытки уверить их, что его забота не из-за луддитизма. «Было бы печально, если бы машинный интеллект никогда не был развит на полную мощность», — сказал он. «Я думаю, что это, в конечном счете, ключ или портал, через который мы должны пройти, чтобы полностью реализовать долгосрочный потенциал человечества». Но, избегая разговоров о риске для существования, он настаивал на том, чтобы аудитория приняла во внимание опасность создания искусственного интеллекта. безотносительно к его этическому дизайну.

Посетитель поднял руку, чтобы возразить. «Мы не можем контролировать основных компьютерных червей», — сказал он. «A.I. это произойдет, это будет высокоадаптируемая, возникающая возможность и широко распределенная. Мы сможем работать с ним — за — не обязательно содержать его ».

«Думаю, я немного расстроен», — ответил Бостром. «Люди склонны делиться на два лагеря. С одной стороны, есть такие, как вы, которые думают, что это, вероятно, безнадежно. Другой лагерь считает, что это достаточно просто, что она будет решена автоматически.И то и другое объединяет то, что нам не нужно сейчас прилагать никаких усилий ».

Остаток дня инженеры представили на кафедре свои работы, каждая из которых обещала заглянуть в будущее — зрение роботов, квантовые компьютеры, алгоритмы, называемые «мысленными векторами». В начале карьеры Бострома он предсказал, что каскадный экономический спрос на ИИ. будет расти в области медицины, развлечений, финансов и обороны. По мере того, как технология становится полезной, этот спрос будет только расти.«Если вы улучшите что-то на один процент, скажем, алгоритм, рекомендующий книги на Amazon, — это будет очень полезно», — сказал мне Бостром. «Если каждое улучшение потенциально приносит огромную экономическую выгоду, это способствует усилиям по внесению дополнительных улучшений».

Многие крупнейшие технологические компании мира сейчас заблокированы в ИИ. гонка вооружений, покупка других компаний и открытие специализированных подразделений для продвижения технологий. Промышленность так быстро убирает кандидатов наук, что люди в этой области опасаются, что в академических кругах больше не будет лучших талантов.После десятилетий изучения узких форм искусственного интеллекта исследователи стремятся интегрировать их в системы, напоминающие общий интеллект. С тех пор, как компания I.B.M. Watson выиграла конкурс «Jeopardy», компания вложила более миллиарда долларов на ее развитие и переориентирует свой бизнес на «когнитивные системы». Один из высокопоставленных руководителей I.B.M. заявил: «Разделение между человеком и машиной исчезнет в корне».

В Королевском обществе контингент исследователей из Google занял привилегированное место; в их распоряжении, вероятно, было больше ресурсов, чем у кого-либо еще в комнате.С самого начала основатели Google Ларри Пейдж и Сергей Брин поняли, что миссия компании требует решения фундаментальных проблем искусственного интеллекта. проблемы. Пейдж сказал, что, по его мнению, идеальная система должна понимать вопросы, даже предвосхищать их и давать ответы на разговорном языке. Ученые Google часто ссылаются на компьютер в «Звездном пути» в качестве модели.

За последние годы Google приобрела семь компаний, занимающихся робототехникой, и несколько фирм, специализирующихся на машинном интеллекте; теперь в нем может работать самый большой в мире контингент докторов наук.D.s в области глубокого обучения. Возможно, наиболее интересным приобретением является британская компания DeepMind, созданная в 2011 году для создания общего искусственного интеллекта. Его основатели рано сделали ставку на глубокое обучение и стремились объединить его с другими ИИ. механизмы в единой архитектуре. В 2013 году они опубликовали результаты теста, в котором их система играла в семь классических игр Atari без единой инструкции, кроме как улучшить результат. Для многих людей в искусственном интеллекте важность результатов была очевидна.Шахматная программа IBM победила Гарри Каспарова, но не смогла победить трехлетнего ребенка в крестики-нолики. В шести играх система DeepMind превзошла все предыдущие алгоритмы; в трех это было сверхчеловеческим. В боксерской игре он научился удерживать противника и подавлять его с помощью шквала ударов.

Спустя несколько недель после публикации результатов Google купил компанию, как сообщается, за полмиллиарда долларов. DeepMind поставила в сделку два необычных условия: ее работа никогда не может быть использована в целях шпионажа или защиты, а совет по этике будет контролировать исследования по мере приближения к достижению А.I. Андерс Сандберг сказал мне: «Мы счастливы, что они, скорее всего, сделают это. Они признают, что есть некоторые проблемы ».

Главный основатель DeepMind, Демис Хассабис, описал свою компанию аудитории Королевского общества как «Программу Аполлона» с миссией, состоящей из двух частей: «Шаг первый, решить разведку. Шаг второй, используйте его, чтобы решить все остальное ». С момента тестирования в 2013 году его система прошла более дюжины других игр Atari. Хассабис продемонстрировал неопубликованное испытание с использованием трехмерной игры на вождение, в которой она быстро обошла автоматические драйверы игры.План состоял в том, чтобы протестировать его во все более сложных виртуальных средах и, в конечном итоге, в реальном мире. В патенте перечислены области применения, от финансов до робототехники.

Хассабис четко обозначил проблемы. Система DeepMind по-прежнему безнадежно терпит неудачу в задачах, требующих долгосрочного планирования, знания о мире или способности откладывать вознаграждение — вещей, с которыми, как ожидается, сможет справиться пятилетний ребенок. Компания работает над концептуальным пониманием алгоритма и возможностью передачи обучения, что позволяет людям применять уроки из одной ситуации в другой.Это непростые проблемы. Но DeepMind имеет более сотни кандидатов наук, которым предстоит поработать над ними, и награда может быть огромной. Хассабис говорил о создании искусственных ученых для решения проблемы изменения климата, болезней и бедности. «Даже если над этими проблемами работает самая умная группа людей на планете, эти системы могут быть настолько сложными, что это будет сложно для отдельных людей, научных экспертов», — сказал он. «Если мы сможем раскрыть, что такое интеллект, то мы сможем использовать его, чтобы помочь нам решить все эти другие проблемы.Он тоже считает, что А. это ворота к расширенному человеческому потенциалу.

Основным докладчиком в Королевском обществе был еще один сотрудник Google: Джеффри Хинтон, который на протяжении десятилетий был центральной фигурой в развитии глубокого обучения. Когда конференция подошла к концу, я заметил, что он болтает с Бостромом в разгаре стычки исследователей. Хинтон говорил, что не ожидал, что А. должно быть достигнуто на десятилетия. «Не раньше 2070 года», — сказал он. «Я нахожусь в безнадежном лагере».

«В чем, по-вашему, это не повод для добра?» — спросил Бостром.

«Я думаю, что политические системы будут использовать это, чтобы терроризировать людей», — сказал Хинтон. Он считал, что такие агентства, как N.S.A. пытались злоупотребить подобной технологией.

«Тогда зачем вы проводите исследования?» — спросил Бостром.

«Я могу привести обычные аргументы», — сказал Хинтон. «Но правда в том, что перспектива открытия слишком сладкая ». Он неловко улыбнулся, слово повисло в воздухе — отголосок Оппенгеймера, который сказал о бомбе: «Когда вы видите что-то технически приятное, вы делаете это и спорите о том, что с этим делать, только после того, как вы добились своего технического успеха.

Когда ученые отступили к столам, расставленным для закусок, я спросил Хинтона, верит ли он в искусственный интеллект. можно было контролировать. «Это все равно, что спрашивать, может ли ребенок контролировать своих родителей», — сказал он. «Это может случиться с младенцем и матерью — есть биологическая привязка — но нет хорошей репутации, чтобы менее разумные существа контролировали предметы с более высоким интеллектом». Он выглядел так, как будто собирался уточнить. Тогда ученый крикнул: «Давайте все выпьем!»

Бостром мало интересовался коктейльной вечеринкой.Он пожал несколько рук и направился в парк Сент-Джеймс, общественный сад, который простирается от ворот Букингемского дворца до центра Лондона. Мир появился в великолепном аналоге: солнечный свет над деревьями, утиные пруды, дети, бабушки и дедушки, кормящие птиц. Это место было парком сотни лет, и вид казался вневременным. Тем не менее, в течение прошлого тысячелетия на этой территории также были болото, больница для прокаженных, олений заповедник и королевские сады. Казалось правдоподобным, что через тысячу лет цифровые постлюди, считая это потраченным впустую пространством, разорвут его, заменит ландшафтный дизайн компьютерными банками и построит обширную виртуальную идиллию.

Темп Бострома стал естественным, пока мы кружили по парку. Он говорил о своей семье; скоро он увидится с женой и сыном. Он много читал: историю, психологию, экономику. Он учился программировать. Он думал о расширении своего института. Хотя тогда он этого не знал, F.H.I. собирался получить от Илона Маска полтора миллиона долларов на создание подразделения, которое разработало бы социальную политику, основанную на некоторых теориях Бострома. Ему нужно будет нанять людей.Он также обдумывал формулировку своего сообщения. «О рисках говорится гораздо больше, чем о преимуществах, но это не обязательно потому, что положительных сторон здесь нет», — сказал он мне. «О риске можно сказать больше — и, может быть, больше пользы при описании ловушек, чтобы мы знали, как их обходить, — чем тратить время на выяснение деталей того, как мы собираемся обставить большой дворец тысячу человек. лет спустя ».

Мы миновали фонтан, недалеко от группы скал, устроенных так, чтобы утки могли отдохнуть. Бострому за сорок, ему скоро придется бороться с физическим упадком, и он с раздражением говорил о первых проблесках смертности. Несмотря на то, что он является членом Alcor, нет никаких гарантий, что крионика будет работать. Возможно, самое радикальное из его видений — это сверхразумный ИИ. ускорит загрузку умов — то, что он называет «имитацией всего мозга» — технологии, которая может быть невозможна веками, если вообще возможна.Бостром в своем наиболее обнадеживающем образе воображает эмуляции не только как воспроизведение первоначального интеллекта «с неповрежденной памятью и личностью» — души в машине, — но и как умы, которые можно расширять бесчисленными способами. «Мы живем семь десятилетий, и у нас есть трехфунтовые комки дрянной материи для размышлений, но для меня вполне вероятно, что могут существовать чрезвычайно ценные психические состояния за пределами этого небольшого конкретного набора возможностей, которые могли бы быть намного лучше», — он сказал мне.

В своей книге Бостром рассматривает далекое будущее, в котором триллионы цифровых умов сливаются в огромный когнитивный кибер-суп.«Будет ли набор чрезвычайно позитивных постчеловеческих способов существования включать в себя какой-то растворенный бульон, есть некоторая неопределенность», — сказал он. «Если вы посмотрите на религиозные взгляды, то во многих случаях слияние с чем-то большим — это форма неба, присутствие этой огромной красоты и благости. Во многих традициях наилучшее состояние не предполагает стремления к достижению целей индивидуальности. Но трудно понять, что происходит в этом супе. Возможно, некоторые супы не были бы предпочтительны в долгосрочной перспективе.Я не знаю.» Он остановился и посмотрел вперед. «Чего я хочу избежать, так это думать с нашей узкой точки зрения 2015 года — из моего собственного ограниченного жизненного опыта, моего собственного ограниченного мозга — и сверхконфиденциально постулировать, какая форма будет лучшей для цивилизации через миллиард лет, когда у вас могут быть мозги. размер планет и продолжительность жизни в миллиард лет. Вряд ли мы придумаем какой-то детальный план утопии. Что, если бы человекообразные обезьяны спросили, должны ли они эволюционировать в Homo sapiens — за и против, — и в качестве аргумента они написали: «О, у нас могло бы быть много бананов, если бы мы стали людьми»? Что ж, теперь у нас может быть неограниченное количество бананов, но человеческие условия — это нечто большее.♦

Иллюстрация Тодда Сент-Джона / Кодирование Джоно Бранделя.

Обзор «Мария Кюри: мужество знаний»: уважаемый биографический фильм

Оснащенный англоязычным названием, напоминающим запыленный образовательный видеоролик, предназначенный только для использования в классе, «Мария Кюри: мужество знаний» не обязательно поднимает очень высокую планку, чтобы быть более интересным, чем кажется — и так это происходит, хотя и не слишком гладко. Напротив, явно страстный портрет выдающегося польско-французского физика и химика Мари Ноэль предстает в виде странной смеси формул, которые в одну минуту следуют крахмалистому биопическому образцу и уступают место импрессионистской абстракции.Ни один из подходов не делает значительного успеха монументальных научных достижений этого предмета, что всегда было сложной задачей. То, что ее любовная жизнь представлена ​​более привлекательно, возможно, неизбежно, хотя, упорно борясь за то, чтобы ее оценивали коллеги-мужчины по ее работе, а не по ее женственности, Кюри не обрадовалась бы, услышав это.

«Нам должно быть менее любопытно знакомиться с людьми и более любопытно знать их мысли», — говорит Кюри, которую с непоколебимой самоотдачей сыграла польская актриса Каролина Грушка, незадолго до закрытия фильма, когда она принимает свою вторую Нобелевскую премию 1911 года. .К этому моменту зритель может понять такую ​​позицию: большая часть «Мужества познания» связана с волнующим влиянием мелких личных сплетен и патриархальной злобы на ее карьеру и психику. Тем не менее, это своего рода ироническая изюминка биографического фильма, в котором задерживаются на интимных подробностях личной жизни Кюри, но при этом никогда не удается до конца схватить ее самые сложные мысли. Если есть даже способ построить повествование на основе теории радиоактивности, трудно обвинить Ноэль в том, что она не попыталась это сделать: она и энергичный оператор Михал Энглерт в основном передают теоретические размышления Кюри в фильме как мерцающие мечты электрически-синего света и тени. .

В отличие от каши MGM, явно проснувшейся до пробуждения картины 1943 года «Мадам Кюри» — в которой наука отошла на задний план по сравнению с влажными эмоциями Грир Гарсон, — фильм Ноэль не слишком интересует преданный брак Кюри с коллегой-физиком Пьером (Чарльз Берлинг ), чья случайная смерть происходит незадолго до начала судебного разбирательства, и который время от времени появляется в образе галлюцинированного ангела-хранителя. Скорее, в сценарии Ноэль и Андреа Столл изображена последующая борьба стойкой вдовы за самоутверждение в качестве независимого лидера в своей области, опровергая шовинистическое предположение французской Академии наук, состоящей исключительно из мужчин, о том, что она была второстепенным участником открытий своего мужа, а не какой-то из них. равноправный сотрудник.Один из коллег, который верит в нее, — Пол Ланжевен (харизматичный Арье Вортхальтер), женатый либерал, чья доброта и восхищение в конечном итоге принимают романтический оборот, затевая роман, который шокирует, по общему признанию, довольно лишенный скандалов мир исследований радия.

Даже в самых мелодраматических интермедиях фильма, где нужно работать только с важными академическими деталями, сдержанная, интеллектуальная игра Грушки прекрасно справляется с задачей проецировать суровый интеллект и непоколебимую серьезность убеждений, которые в конечном итоге сделали насмешками архаичных хулителей Кюри.Последовательность ее присутствия контрастирует с беспокойным, трепещущим тоном ее режиссера, который, тем не менее, не кажется совершенно случайным: когда настроение и эстетика меняются с витиеватого на морозный, когда напряженная партитура Бруно Куле гонится за отслеживанием, можно почувствовать Стиль Ноэль растягивается с переменным успехом, чтобы определить Марию Кюри как нечто вроде эрудита. «Моя сияющая королева радия», — обращается к ней Ланжевен в какой-то момент — возможно, не самое подходящее из описаний, но «Мужество познания», по крайней мере, в некоторой степени освещает достойный бесцветный гений миллиона учебников истории.

Paper Writing Service, который мгновенно решает любую академическую проблему

Заказывая статью, вы хотите получить ее без промедления и хорошего качества. Вот что означает профессиональные услуги по написанию бумаги. На самом деле, у вас есть много преимуществ, когда вы получаете готовую бумагу от надежной службы написания бумаги по сравнению с написанной вами лично.

Опытные писатели. Каждый писатель проходит тщательный отбор путем прохождения многочисленных тестов и предоставления полномочий, подтверждающих их квалификацию и надежность.В итоге принимаются на работу только 15% всех претендентов. Более того, каждый писатель, которого мы нанимаем, посвящает себя доводке своей работы до совершенства и имеет степень бакалавра и бакалавра. степень или выше. Они знают, что делать и как выполнять все задания, а это значит, что вы будете получать профессионально написанную работу каждый раз, когда заказываете услугу написания эссе.

Вразумительные объяснения. Если клиентам что-то непонятно, наши специалисты и агенты службы поддержки всегда готовы все объяснить. Это увеличивает ваши шансы ответить на вопросы профессора и более подробно ознакомиться с предметом.Таким образом, услуги по написанию бумаг для колледжа делают вас более подготовленными во всех смыслах.

Последовательное письмо. У каждой законной и надежной компании, занимающейся написанием бумаг, есть специалисты практически по всем вопросам, которые помогут вам. Быть экспертом в определенной области предполагает наличие большого опыта и знаний. В результате каждый писатель в компании точно знает, как написать конкретный тип бумаги, чтобы превзойти все ожидания клиентов и удовлетворить все требования.

Экономия времени. Еще одно преимущество заключается в том, что заказной заказ бумаги помогает сэкономить больше времени на то, что вы действительно любите делать, например, весело проводить время с друзьями или наслаждаться своим хобби. Здесь нет места для откладывания на потом, и вы всегда получаете хорошо написанное эссе задолго до крайнего срока.

Вычитка и редактирование. Может быть трудно найти свои собственные ошибки или понять, где ваши аргументы ошибочны в эссе. Ответ на вопрос «Сможете ли вы написать за меня мою статью без ошибок?» уже найден.Каждый автор статьи гарантирует тщательный анализ написанного текста и разумное редактирование, чтобы предоставить вам первоклассные результаты.

Круглосуточная безотказная работа. Онлайн-сервис написания статей — настоящий помощник, который поможет в любое время и в любом месте. На самом деле не имеет значения, какая у вас академическая проблема и когда вам понадобится помощь, надежная служба написания статей спасет вас круглосуточно и предоставит вам отличное эссе. Вам не нужно проводить исследования, чтобы разобраться в своих проблемах, потому что профессионалы сделают это за вас.

Все эти преимущества помогают каждому клиенту воспользоваться услугой составителя эссе и получить самые высокие результаты во время учебы. Эти сильные стороны делают заказное эссе более полезным по сравнению с лично написанным сочинением.

Я хочу, чтобы вы написали для меня мою статью! Какие услуги вы предлагаете?

Наша служба написания статей предлагает широкий спектр услуг, направленных на удовлетворение потребностей даже самых искушенных клиентов. Команда настоящих профессионалов уже много лет помогает студентам писать работы любого академического уровня и сложности.Наше незыблемое правило — доставлять документы вовремя. Мы ценим ваше время и понимаем важность образования.

Неважно, нужно ли вам простое эссе или сложную диссертацию, у нас вы получите пятерку. Вы можете выбрать одну из таких услуг, как написание академической статьи, перефразирование и переписывание, оценка и оценка, редактирование и корректура, решение проблем, оказание помощи с конкретными заданиями по программному обеспечению или вопросы с несколькими вариантами ответов. Давайте подробнее рассмотрим основные типы документов, с которыми мы можем вам помочь.

Комплексная служба написания эссе

Эта услуга обычно считается краеугольным камнем и столпом предлагаемых услуг, и каждый профессиональный писатель эссе знает, как написать идеальное эссе. Являясь лучшим сервисом для написания статей, мы легко справляемся с повествовательными, убедительными, пояснительными, описательными и другими типами эссе. В нашей компании много специалистов, готовых написать, переписать или вычитать вашу статью за считанные часы.

Наем автора сочинений онлайн — лучший способ получить профессионально изученную и грамотно написанную статью.Наши профессиональные и надежные услуги по написанию статей — это то место, где вы можете легко получить идеальное эссе, не испортив свою репутацию. Мы обрабатываем эссе всех академических уровней, написанные в соответствии с высочайшими стандартами и вашими требованиями.

Служба безупречного написания исследовательской работы

Иногда бывает очень сложно справиться с исследовательской работой, поскольку это требует много времени и усилий. Каждый писатель из академического колледжа, назначенный нашей компанией, обязательно сделает свою работу, чтобы предоставить вам последовательный и хорошо структурированный исследовательский документ в кратчайшие сроки.

Помощь в написании диссертации

Если вам нужна помощь с методологией, гипотезой, введением, предложением заключения, результатами диссертации или помощь в написании диссертации с нуля, мы вам поможем. Для выполнения этой работы мы поручаем только опытному писателю со степенью магистра или выше. Давайте упростим вам написание научных статей.

Надежная справочная служба по курсу

Не знаете, что делать с курсовой? Спросите нашу компанию, и мы сделаем это задание в кратчайшие сроки.С нашими специалистами вы можете забыть о заботах и ​​неопределенных результатах. Мы найдем академического писателя, способного различить все проблемы с письмом и подготовить плавно написанные курсовые работы, которые удовлетворят даже самого требовательного профессора.

Получить подробный отчет, подготовленный профессиональным писателем

Вы отстали со своим отчетом? Не о чем беспокоиться, потому что каждый писатель, которого нанимает наша компания, знает, как написать отличный отчет. Мы поможем составить техническое задание, сделать выводы и рекомендации, а также составить полное резюме.Каждый заказ на написание эссе или любой другой заказ написан должным образом, чтобы удовлетворить все ваши потребности, и отчет не является исключением.

Нужна статья? Закажите бумагу онлайн!

Необязательно быть плодовитым писателем, чтобы написать безупречную статью. Наш сервис может предложить вам ряд специалистов, исключительно хороших в написании статей. Просто укажите необходимые требования, такие как тема, длина текста, форматирование, а также другие нюансы, а наш опытный автор сочинений сделает все остальное.

Профессиональная служба написания резюме

Если вы хотите, чтобы ваше резюме и сопроводительное письмо привлекали внимание и производили положительное впечатление, вы можете полностью положиться на наших экспертов.Они уже помогли многим людям составить безупречные документы, которые привлекли внимание сотрудников и высших учебных заведений. Пришло ваше время достичь с нами невероятных целей.

Почему стоит попробовать онлайн-справку по заданиям

«Если я позволю вам написать мою академическую работу, какие гарантии вы дадите?» Это общий вопрос, который приходит в голову многим студентам. Что ж, нашу услугу по написанию бумаги, ориентированную на индивидуальный заказ, определенно стоит попробовать, и у нас есть основания так говорить.Прежде всего, вы можете прочитать отзывы о нашей компании на различных сайтах и ​​прочитать отзывы в Интернете, чтобы убедиться, что мы абсолютно надежны.

Во-вторых, мы работаем с известными платежными системами и предлагаем вам вариант частичной оплаты. В-третьих, мы не прекращаем улучшать вашу работу, пока вы не полностью удовлетворены. Более того, наши агенты поддержки и писатели сразу поймут, что вы имеете в виду, чтобы вы могли получить бумагу высокого качества. Вам не нужно искать автора сочинения в Интернете, мы всегда выбираем наиболее подходящего для выполнения вашего задания.В результате вы сэкономите больше нервов и времени.

Какие процессы включает в себя услуга написания академической статьи?

Написание эссе — это больше, чем просто художественное занятие; это комплексная пошаговая реализация различных процессов, позволяющих предоставить вам идеальную бумагу. В большинстве случаев услуга написания нестандартной бумаги включает следующие шаги:

• Тематическое исследование. Это необходимое условие практически для любого задания, и наши писатели уделяют ему много времени.
• Процесс записи. В номере появляется последовательный и хорошо структурированный документ, отвечающий всем письменным стандартам.
• Следующим шагом будет правильная привязка и форматирование в соответствии с требованиями. Каждая статья процитирована должным образом, чтобы избежать непреднамеренного плагиата и привести необходимые аргументы и утверждения.
• После завершения эссе назначенный писатель читает его еще раз, чтобы при необходимости отредактировать.
• Каждая статья в колледже нуждается в корректуре.В нашей службе есть отдел контроля качества, цель которого — избавить вашу статью от грамматических или пунктуальных ошибок, словесных ошибок или опечаток.
• Более того, каждая статья проходит через патентованные алгоритмы борьбы с плагиатом, чтобы гарантировать 100% оригинальность.

Важно признать, что мы не прекращаем нашу работу, пока вы не будете полностью удовлетворены. Вот почему мы предлагаем бесплатные редакции, мониторинг в реальном времени и дополнительные функции, чтобы сделать процесс получения бумаги еще более приятным.

Преимущества службы поддержки нашей компании по написанию легальных бумаг

Удобные варианты связи. Выберите наиболее удобный способ связи с нами. Электронная почта, телефонные звонки, чат или FB Messenger к вашим услугам.

Быстрый ответ. Наша служба поддержки отвечает быстро, что обычно занимает меньше минуты.

Понятное руководство. Если у вас есть какие-либо вопросы, связанные с написанием эссе в колледже, вы всегда можете положиться на нашу службу поддержки.Они знают все ответы и с радостью проведут вас через них.

Поддержка 24/7. Вы можете связаться с нами в любое время, так как наша служба поддержки работает круглосуточно, чтобы помочь вам с текущими проблемами.

Решение проблем. Хотите поступить в институт с отлично написанной работой, но что-то идет не так? Поделитесь с нами своими переживаниями, и мы найдем наиболее подходящее решение.

Индивидуальный подход. Каждый клиент уникален, и мы никогда не прекращаем улучшать наши услуги, если вы не полностью удовлетворены.Все работы выполняются строго в соответствии со всеми вашими требованиями.

Эффективность процесса. Наша команда делает услуги менее затратными по времени и более рентабельными. Покупайте бумагу дешево и платите за реальные результаты вместе с нами.

Удовлетворенность клиентов. Наша служба написания эссе на заказ находит самые яркие решения и предлагает невероятные функции, которые сделают процесс заказа удобным.

Наем профессионального писателя из колледжа — ваш путь к успеху!

Если студент спрашивает: «Можно ли написать эссе так, как требует мой профессор?» мы всегда отвечаем утвердительно.Более того, на самом деле не имеет значения, какой уровень сложности, академический уровень и тип статьи вам нужно написать. Мы помогаем от старшеклассников до докторов наук. кандидаты от вступительных сочинений до диссертаций.

Кроме того, наши писатели могут легко применить необходимые стили, такие как Гарвардский, APA, MLA, Чикаго / Турабский, чтобы сделать вашу статью должным образом отформатированной.

как танцевать в Огайо

С юмором и печалью «Как танцевать в Огайо» демонстрирует ежедневное мужество людей, преодолевших свои страхи и открывающихся боли, беспокойству и радости социального мира.От Wings до Parasite, вот оглядываться на всех обладателей премии «Оскар» за лучшую картину за всю историю церемонии. Я не могу этого сделать, но я могу это сделать: фильм для семей о различиях в изучении, диагноз «Биполярное расстройство: пять семей ищут ответы». Добавьте первый вопрос. «Как танцевать в Огайо» — это интимный портрет подростков, страдающих социальной борьбой с аутизмом, который предлагает гуманистический взгляд на стойкость этих молодых людей. Это обряды перехода американской молодежи, которые обещают магию, романтику и посвящение во взрослую жизнь.Она предпочитает телевизор, компьютеры и время в одиночестве больше, чем в группе. Снято с производства производителем: Нет. Директор. Они проводят 12 недель в противостоянии и практике своих социальных навыков, готовясь к большому мероприятию, которое состоится на местной дискотеке. Для детей из всех слоев общества эти первые шаги к близости одновременно волнуют и пугают. Премьера фильма состоялась 26 октября 2015 года на канале HBO. Как танцевать в Огайо … Какая замечательная программа в Огайо для людей с разными способностями за пределами школьного возраста.В Колумбусе, штат Огайо, группа подростков и молодых людей с аутичным спектром готовится к культовому американскому обряду посвящения — весеннему торжеству. Замечательный зенимак 4 ноября 2015 года. Как танцевать в Огайо транслируется на Amazon Prime и Hulu. Фильм был захватывающим и произвел на меня глубокое впечатление. Как танцевать в Огайо. Не сумев забеременеть своей женой, парень (Шнайдер) нанимает своих приятелей, чтобы украсть депозит, который он оставил в банке спермы много лет назад. Для получения дополнительной информации о темах, обсуждаемых в этом фильме, посетите эти сайты.Это упражнение по социальному взаимодействию, выполненное доктором Эмилио Амиго и его персоналом. В Колумбусе, штат Огайо, группа подростков и молодых людей с аутичным спектром готовится к культовому американскому обряду посвящения — весеннему празднику. Влюбившись в 1947 году, две женщины — Пэт Хеншель и профессиональный бейсболист Терри Донахью — начинают 65-летний путь любви и преодоления предрассудков. Фильм был захватывающим и произвел на меня глубокое впечатление. Автор Нильс Скудра. В Колумбусе, штат Огайо, группа подростков и молодых людей с аутичным спектром готовится к культовому американскому обряду посвящения — весеннему торжеству.Кучка парней слоняется в колледже в течение нескольких месяцев после окончания учебы, продолжая жить так же, как до окончания учебы. 27К лайков. Типичное население не осознает, насколько сложно для людей с разными способностями общаться. Читать далее. Как танцевать в Огайо. Посмотреть производство, кассовые сборы и информацию о компании. Фильм Александры Шивы «Как танцевать в Огайо», премьера которого состоится в понедельник вечером на канале HBO после успешного выступления на фестивале, представляет собой нежный и сострадательный взгляд на трех молодых женщин, живущих в спектре аутизма.Идея режиссера Шивы воплотилась в редкий и замечательный документальный фильм «Как танцевать в Огайо». «КАК ТАНЦОВАТЬ В ОГАЙО» — это интимный портрет подростков, страдающих социальной борьбой с аутизмом, который предлагает гуманистический взгляд на стойкость этих молодых людей. Два человека сталкиваются с, казалось бы, непреодолимым препятствием, которое может встать между ними и последним шансом на любовь. Читать далее. Первый поцелуй, первый танец. Как танцевать в Огайо — американский документальный фильм 2015 года режиссера Александры Шивы.Для детей из всех слоев общества эти первые шаги к близости одновременно волнуют и пугают. Группа подростков случайно выпускает злого духа, который начинает овладевать ими одного за другим. Первый поцелуй, первый танец. В фильме рассказывается о трех девушках, страдающих расстройством аутистического спектра (РАС), которые проходят через испытания и триумф подготовки к весеннему торжественному мероприятию в своем сообществе коллег-клиентов по РАС в AFC. Мою дочь нужно поощрять к общению с членами семьи и друзьями всякий раз, когда они приезжают в гости.Они проводят 12 недель, тренируясь … 10 из 12 человек сочли этот обзор полезным. Это обряды перехода американской молодежи, которые обещают магию, романтику и посвящение во взрослую жизнь. Документальный фильм посвящен … См. Полное содержание ». Хотите поделиться рейтингом IMDb на своем сайте? Это обряды перехода американской молодежи, которые обещают магию, романтику и посвящение во взрослую жизнь. В Колумбусе, штат Огайо, группа молодых людей с множеством проблем в развитии готовится к культовому событию — весеннему официальному танцу.Жарким летним днем ​​в августе 1976 года десятилетний Энди Пуглиси … Полный текст », Stagedoor — это документальный фильм о летнем лагере Stagedoor Manor, театральной программе в Катскиллс, куда приходят самые разные дети, чтобы участвовать в постановках. . Название: Приспособление на работе. Для детей из всех слоев общества эти первые шаги к близости одновременно волнуют и пугают. : Made in America ’Lead Awards, Сандэнс 2015: США Как танцевать в Огайо Группа подростков с аутизмом готовится к своему первому весеннему выпускному вечеру, и они работают, чтобы преодолеть свою социальную борьбу с помощью терапии и собственной стойкости.Первый поцелуй, первый танец. Изучите {{searchView.params.phrase}} по цветовой гамме {{familyColorButtonText (colorFamily.name)}} Во многих отношениях это блестящий пример того, о чем говорил Роджер, когда он обсуждал фильм как машину для эмпатии, предлагающую понимание жизни людей может не до конца понять. Подлинная история баскетбольного инсайдера Кристиана Докинза, который подтолкнул ФБР к скандалу, который угрожал уничтожить NCAA. Было бы здорово увидеть это в других штатах. ‌Если вы являетесь действующим подписчиком HBO, возможно, у вас уже есть доступ к HBO Max — всем каналам HBO, а также еще большему количеству блокбастеров, сериалам, которые необходимо посмотреть, и новым фильмам Max Originals.Полезный. Как танцевать в Огайо Джессика Салливан Кэролайн Маккензи Маридет Бриджес (2015) В Колумбусе аутичные подростки приобретают ценные навыки социального взаимодействия, готовясь к весенним формам. Дополнительные функции: объемный звук 5.1, субтитры, удаленные сцены, трейлер. Для некоторых подростков и молодых людей в спектре аутизма переход может быть не чем иным, как параличом. Как танцевать в Огайо (2015) Обзоры пользователей Пересмотрите этот заголовок 2 отзыва. Используйте HTML-код ниже. Они проводят 12 недель, практикуя свои социальные навыки, готовясь к танцам в местном ночном клубе.Спасибо за этот замечательный документальный фильм. Вы должны быть зарегистрированным пользователем, чтобы использовать рейтинг IMDb. Первый поцелуй, первый танец. В «КАК ТАНЦОВАТЬ В ОГАЙО» мы знакомимся с тремя девушками, вступающими во взрослую жизнь. Они проводят 12 недель, практикуя свои социальные навыки в процессе подготовки. «Как танцевать в Огайо» — это история универсальной человеческой потребности расти, соединяться и принадлежать, уникально драматизированная людьми, сталкивающимися с глубочайшей борьбой за социальное выживание. Я просматривал каналы и наткнулся на эту презентацию.Первый поцелуй, первый танец. Знакомства. Информация о продукте. Документальный конкурс. В Колумбусе, штат Огайо, группа подростков и молодых людей с аутичным спектром готовится к культовому американскому обряду посвящения — весеннему торжеству. Для некоторых подростков и молодых людей в спектре аутизма переход может быть не чем иным, как параличом. «Вы видели Энди?» Ознакомьтесь с некоторыми неожиданными хитами 2021 года, которые привлекли внимание поклонников IMDb и теперь доступны для трансляции. Фильм знакомит нас с их сеансами групповой терапии, их отношениями с семьями и их личными мыслями, поскольку они изо всех сил пытаются понять и ориентироваться в социальных правилах, которые окружают напряженный и обостренный опыт первого свидания.

Снова в школу III, Как нарисовать черепаху, Обеденное меню Audubon, Объяснение крови на ее имени, Таблица лидеров Bassmaster Open Cherokee Lake, Радужная дорога Марио Карт, Струны сердца Долли Партон, Резня в Риме, Шелковый кошелек Медальон для ушей свиньи, Левая рука Бога, Сводка московских правил,