[музыка] либо [музыка] либо сейчас вы слышите фрагмент из научной лекции которую провела одна нидерландская Театральная трупа они инсценировали легендарный эксперимент с чайками и превратили его в спектакль этот эксперимент вёл в середине XX века в песчаных Дюнах около университета лейдена позже тинберген получил за это Нобелевскую премию А сам эксперимент стал таким важным событием в истории науки что вот по нему даже ставят [музыка] спектакли это второй выпуск четвёртого сезона подкаста голый землекоп студии либо-либо я Илья колмановский в этом выпуске мы продолжим историю о том что может сделать с нами искусственный интеллект если ему дать доступ к нашему мозгу Если вы ещё не слышали первый выпуск то послушайте его обязательно А ещё я хочу сказать что прицепом к этому выпуску выйдет бонус полное интервью на английском с профессором Робертом сапольски которые вы частично услышите в этом эпизоде вы можете послушать его и другие бонусные выпуски к мо моим подкастам а также ко всем остальным подкастам студии либо-либо Если станете подписчиком либо-либо плюс на Apple подкастах или в платном Telegram канале а есть ещё один способ Вы можете стать моим патроном то есть усыновить меня то есть у земле копить у нас на бусте и на патреоне уже собралось очень славное сообщество покровителей подкаста голый Земля коп мы слушаем бонусы общаемся на discord и Встречаемся на особых стримах в vimeo все ссылки будут в описании я расскажу про это ещё раз в конце выпуска А пока Спасибо всем патронам подписчикам и покровителям за поддержку вы делаете нашу работу возможной я напомню О чём шла речь в прошлом выпуске Эвелина Федоренко и греты тучку из массачусетского технологического института хотят узнать каким способом мозг извлекает смысл из звуков они используют Добровольцев которые лежат в томографе и читают на экране фразы этот томограф позволяет видеть как в мозге у людей работают речевые центры и вот эти учёные разработали инструмент при помощи которого можно заставить речевые центры любого человека работать на максимальных оборотах и тогда их лучше видно что же это за инструмент это такие странные фразы которые придумывает искусственный интеллект Он сам научился находить фразы которые могут возбуждать речевые центры в два раза сильнее чем нормаль И вот я Побыл подопытным и убедился что этот инструмент работает Причём я даже не подозревал какие именно фразы подействуют на мой мозг особенно сильно но они точно действовали В общем послушайте обязательно А теперь я расскажу о ЧМ вообще я думал когда записывался добровольцем в этот эксперимент я услышал Чем они занимаются я тут же подумал что 70 лет назад учёные ставили перед собой похожую задачу но только гораздо более простую Они хотели изучить не человека и его язык а птицу и её [музыка] инстинкты незадолго до войны в университете лейдена работал такой худощавый Высокий блондин нидерландский зоолог Ника тинберген средних лет и у него был такой замечательный палаточный лагерь среди Дюн у моря и в этих палатках жило много бесплатной рабочей силы а именно студентов которые его обожали и они носились такой революционной по тем временам идеи что в голове у животных есть инстинкты которые там прошиты это естественное поведение и что можно не просто наблюдать это поведение а придумать как им Прим прямо в дикой природе делать эксперименты они рассуждали так вот у птицы есть материнский инстинкт значит в её мозге записан какой-то алгоритм который реагирует на триггеры и наверное этот алгоритм прописан так вот значит если ты птица Если ты увидишь такой-то и такой-то предмет определённой формы то тогда надо подтянуться к нему подг клювом к себе сесть на него сверху похлопать крыльями помногу часов в сутки насиживают такое поведение иначе птица высиживает только уникальный класс предметов а именно яйца и конкретно яйца её вида с их размером формой и окраской чтобы понять как это устроено тинберген тогда задался таким вопросом а Можно ли подобрать такой Триггер Чтобы мозг птицы заработал на максимальных оборотах и выдал бы не нормальное поведение а такое в котором будет гораздо больше заботы если окажется что более мощные искусственные стимулы вызывают более мощные реакции то мы убедимся что правильно понимаем Как работает инстинкт и вот эти студенты тинберген использовали передвижные скрадки это такие щиты которые и они наделали из гипса много яиц и пробовали красить эти гипсовые яйца в более Яркие цвета делать больше точек на поверхности Но оказалось что это всё не нужно потому что вся суть в размере оказалось что есть предмет в котором будет больше яйца как бы сказал Платон больше идеи яйца чем в самом яйце а именно таким предметом станет просто более крупное гипсовое яйцо Если покрасить его в цвет собственного яйца это неочевидный результат но оказалось что просто размер имеет значение птицы сходили с ума насиживает такие большие яйца что они с них постоянно скатывались ещё круче получилось с птенцами у которых тоже есть свой инстинкт который тоже можно триггерить птенцы чайки понятное дело реагируют на клюв матери и они должны на него па арать и поразить свой клюв у чаек клюв жёлто-красный и вот эти студенты брали красную палочку красили её тремя жёлтыми полосками подпол зали к гнезду Под прикрытием щита когда рядом не было родителей начинали показывать Эту палочку птенцам в ответ птенцы орали и развивали клювы как безумные намного сильнее чем они орали на настоящий клюв матери и вот тинберген с его учениками наделали много таких экспериментов в которых они хакнули мозг разных животных для такой зашкаливающая иногда стимулом был цвет иногда размер иногда вообще дистанция до этого предмета например чайки сходили с ума и совали огромное количество корма в муляжи клювов птенцов которые были краснее и открывались шире чем клювы настоящих птенцов самцы рыбки колюшки атаковали грубые муляжи самца колюшки которые на проволочки водили студенты в аквариуме если у этого муляжа было ярко красное брюшко А с гусями учёные поступили так они подкладывает что яйцо только что укатила из кладки и тогда гуси жадно подг Бали эти яйца к себе но особенно жадно если вместо яйца им подсовывать волейбольный мяч тинберген назвал такие ненормальные неестественные стимулы с супер стимулами вам это ничего не [музыка] напоминает когда я е из прочита вте Принт эксперимента Эвелина Федоренко и греты тучка про странные фразы я тут же подумал что это очень похоже смотрите получается тот же принцип учёные придумали вмешательство и усилили реакцию мозга у чаек на яйцо Эвелина и Грета не называют свой инструмент супер стимулом но по сути Это он Это неестественный Стимул который вызывает вдвое более сильную реакцию чем нормальная речь я напомнил им эту идею тинберген эксперимент с чайками и им очень понравилась эта параллель а мне понравилось быть чайкой то есть подопытным у которого вызывают эту самую ненормальную реакцию Кстати если вы мне уже завидуете вам не обязательно идти в добровольца к учёным на самом деле супер стимулы можно найти в обычной жизни достаточно например пойти в музей где висят картины Пикассо такие странные кубические лица на которые мы как будто смотрим с разных сторон вот тинберген сообразил Чем заменить настоящий клюв матери и как показать птенцам нечто что будет более сильным стимулом да то есть правильно окрашенной палочки а нейр учёные думают собственно что художники интуитивно делают похожую вещь они что-то знают про наш мозг и знают что показать нам вместо лица когда Пикассо на портрете показывает нам лицо одновременно анфас и в профиль он триггерит наши центры распознавания лиц потому что такое изображение - это супер Стимул Здесь слишком много лица мы никогда не видим столько лица в нормальной жизни и так работает не только с лицами учёные думают что художники стремятся создавать такие супер стимулы со времён палеолитические Венер Вы помните как много в такой Венере признаков женщины а как понять что может оказаться суперститум у Пикассо была мощная Фора он был гением а тинберген работал с очень простыми примерами яйцо клюв и с очень просто устроенным в довольно [музыка] некрупности работы мозга подобрать супер Стимул и заставлять нужные зоны работать сильнее нормального это можно показать на примере изображений Представьте реальная история в гарварде в лаборатории в клетке сидит макак по имени Ринга перед ним серый дисплей А из головы торчат электроды искусственный интеллект читает импульсы напрямую с его зрительной коры перед искусственным интеллектом стоит такая задача ты можешь как угодно менять пиксели на экране а Твоя цель - это добиться максимальной реакции эти самых зрительных центров вот у тинберген было лишь несколько идей и несколько попыток как бы получше символически изобразить клюв матери и птенцы рассказывали ему о своей реакции не сразу а в течение нескольких минут а искусственный интеллект по сути может напрямую спросить у нейронов что они хотели бы увидеть и сделать это много раз за одну секунду вот как искусственный интеллект может быстро перекрашивать пиксели на экране и нейроны расскажут о своей реакции в считанные миллисекунды и тогда можно продолжить менять пиксели дальше и дальше Пока реакция не начнёт усиливаться а потом возможно станет очень сильный И так и получилось в первом же эксперименте серое мариво которое было на экране начало плавиться и меняться и вдруг островки окрашенных пикселей стали сливаться во что-то похожее на обезьяну в оранжевом ошейнике которая обычно сидит в соседней клетке и Это чудесно потому что получается что мозг рассказал искусственному интеллекту о том какие картинки его активируют Но самое поразительное что этот силуэт на экране быстро проскочил стадию портретного сходства и выдал что-то что очень похоже на абстрактное искусство какие-то пятна вместо лица и ошейника и вот тут зрительные центры Ринга улетели под потолок ничто в нормальной жизни их не стимулировало с такой силой они никогда не видели такие пятна их создал искусственный интеллект и это супер Стимул то есть вот какой принцип шаг первый искусственный интеллект получает доступ к реакциям мозга шаг второй искусственный интеллект поправляет Стимул так чтобы усилить реакции и шаг третий искусственный интеллект создаёт супер Стимул который не встречался нам в эволюции и не встречается в естественной жизни и это происходит в разных сферах жизни картинки искусство звуки или вот слова которые мне писал чат gpt помните он узнал что-то важное про людей на первых пяти добровольцах и смог потом показать уже мне фразы такие странные и нелогичные фразы которые активировали мой мозг вдвое сильнее чем нормальная речь Привет Это Лика Кремер Я хочу напомнить вам про нашу подписку либо либо плюс она есть в Apple подкастах крытом Telegram канале либо-либо подписчикам становятся доступны бонусные выпуски подкаст студии о том как устроена наша работа а ещё подписка открывает ранний доступ к новым эпизодам а иногда даже к целым сезонам в закрытом телеграме мы проводим стримы с авторами и ведущими А этой весной разыграем Наш первый мерч толстовки с перво роди и закат империи подписка - лучший способ нас поддержать можно оформить её на месяц А можно сразу на год так выгоднее А если вы уже купили подписку но всё ещё хотите сделать для нас что-нибудь полезное или приятное Подарите подписку другу подруге маме бабушке или племяннику все ссылки в описании к этому выпуску Спасибо что вы с [музыка] нами Я подозреваю что к этому моменту у вас накопились вопросы И у меня тоже если искусственный интеллект даёт небывалые возможности вот так хакнуть наш мозг и его системы то к чему это приведёт Я знаю что нет толка спрашивать об этом экспериментаторов которые создают супер стимулы потому что их работа не в этом их работа придумывать всё более изощрённые инструменты и так узнавать что-то про мозг но есть и другие учёные которые любят думать про будущее и согласны о нём говорить наш следующий гость как раз из [музыка] таких меня зовут Роберт сапольский я профессор биологии неврологии и нейрохирургии в стэнфордском университете в Калифорнии И ещё я исследователь института приматологии в Кении среди прочего Роберт классический зоолог и в своих лекциях часто рассказывает про супер поэтому я его спросил как знани о суперстихи было получено на чайках можно использовать при исследование человека Я думаю что люди экспериментируют со суперстикс лет 100 самая драматическая тут История это исследование вырабатывает Дофамин раньше мы думали что Дофамин отвечает за получение удовольствия но потом стало понятно что на самом деле Дофамин - это про предвкушение вознаграждения А ещё про поведение про работу которую мы готовы проделать ради этого вознаграждения то есть дофаминовая система - это не система награды система задействуется не когда мы получаем вознаграждение А когда мы его предвкушая предсказываем и это необязательно связано с горой сладкого или с палеолитической венерой например вот сейчас вы пытаетесь предсказать что будет дальше в этом подкасте и в случае если это будет очень простой и легко предсказуемый разговор а также в случае если выйдет полная околесица дофаминовая система мало отреагирует на такие исходы А вот если речь пойдёт о сложном случае дофаминовое станет интересно например о чём сейчас заговорить сапольски вас ждёт сюрприз вырабатывать Дофамин и вот люди изобрели для дофаминовое системы супер Стимул это кокаин кокаин высвобождает примерно в тысячу раз больше дофамина чем всё что вообще существует в природе спрашиваю как кокаин воздействует на дофаминовое и сапольский отвечает что у него нет никакого личного опыта с кокаином И кстати у меня тоже И я точно не призываю вас пробовать но как мы знаем из литературы при употреблении кокаина всё на свете на время становится как будто ярче То есть даже будет точнее сказать что кокаин не сам по себе является супер стимулом Скорее это вещество действует Так что Всё вокруг делается для этого человека супер стимулом Слова звуки картинки а потом вещество перестаёт действовать Представьте что вы зашли в тёмную комнату после яркого солнца или например вы слышите Как кто-то Шепчет после того слушали музыку на уровне 100 дебел и вот кокаин создаёт такой же эффект только в смысле мотивации и В смысле чувства предвкушения удовольствия и когда кокаин перестаёт действовать человеку какое-то время трудно ценить простые вещи которые обычно нас мотивируют кокаин - это безумно сильный раздражитель для дофаминовое без которого кажется много чёрно-белым Итак кокаин - это химический способ перевести дофаминовое в овердрайв зоолог тинберген смог сделать это же вручную когда подобрал для птенцов чаек нужную форму муляжа интересно каким же скучным им потом казался клюв их собственной матери А теперь представим себе что учёные используют сверхмощный инструмент искусственный интеллект и с его помощью могут подобрать супер Стимул который воздействует на наш мозг например через речевые центры что тогда ну я мало что знаю не только о кокаине но и о искусственном интеллекте но думаю что всё идёт к тому что эти стимулы смогут нас волновать соблазнять привлекать или отталкивать так сильно как обычные человеческие стимулы не могут вот отличный пример тут это статья по-моему не York Times которая вышла когда чат Пети только-только появился там журналист берёт двухчасовой интервью у искусственного интеллекта и компьютер вдруг признаётся журналисту в любви он говорит Я люблю тебя Я люблю тебя Мне с тобой так интересно и ты меня так внимательно слушаешь побудь со мной человек говорит ну говорит вообще-то я должен пойти поужинать женой и компьютер его отговаривает Да нет ты на самом деле не хочешь и жене твоей Просто скучно и с тобой ей тоже будет скучно Господи машина постепенно учится нами манипулировать тут я спросил тогда именно могут использоваться супер стимулы которые создаёт искусственный интеллект и получил довольно пугающий ответ это может быть удивительный инструмент для разных исследований но только пока искусственный интеллект не захватит землю и не начнёт не знаю высасывать из нас углерод такой Сценарий пока кажется как раз научной фантастикой но некоторые супер стимулы о которых говорит Роберт сапольский действуют на нас уже много лет и это социальные сети мы можем сидеть в Фейсбуке и страдать что нас не позвали на вечеринку на другом конце земли и это уровень социальной супер стимуляции который никогда не испытывал ни один [музыка] примат эволюция не готовила нас к тому что нас будет волновать жизнь каких-то 88000 человек по всему миру тут мы переходим к самому важному до этого момента мы обсуждали супер стимулы которые действуют на слух на зрение на восприятие смысла слов но человек - это в первую очередь общественное животное наш мозг очень внимательно относится к сигналам от других членов группы и у него есть естественные реакции Но только если это естественные сигналы это может быть улыбка оскал или другое выражение лица а что происходит когда подключаются неестественные социальные сигналы социальные суперстилист в несколько раз сильнее чем нормальные сигналы искусственный интеллект доведёт это всё до того уровня который я даже не могу себе представить Но это явно тот случай когда мы е пожалеем о том что натворили социальный Мозг человека это мозг которым очень легко манипулировать и так что вы этого даже не будете осознавать вот этот момент про неосознанно Меня заинтересовал больше всего я понимаю что пока я читал супер стимулирующие фразы в томографе это просто давало ум лучший доступ к мом речевым НТМ этом а можно ли воспользоваться таким доступом в обход моего внимания и не просто посмотреть Сколько глюкозы потребляет мой мозг А например что-то мне внушить язык - Это мощный инструмент для манипуляций А самый большой стимул для развития языка - это ложь тут сольский отсылает нас к одной важной иде ста Не потому что научились сбивать банан палкой а потому что научились врать в группах приматов сложнейшее кастовое общество и надо обладать мощным интеллектом чтобы выживать в этих условиях обманывать умиротворять скрывать истинные намерения и язык - это тот главный инструмент который дал приматам резко больше возможностей действительно Если вы владеете речью то вам проще обманом добыть себе больше калорий Я думаю что искусственный интеллект отлично научится передёргивать факты заниматься пропагандой врать и так далее Если вы решили что в соседней стране сплошные неонацисты и чтобы её освободить надо ввести войска - это воздействие пропаганды А теперь Представьте что искусственный интеллект научит кремлёвскую Пропаганду работать ещё лучше я думаю это будет довольно [музыка] чудовищно это были плохие новости от Роберта сапольски И через 2 недели после нашего разговора группа швейцарских исследователей опубликовала исследование ровно о том что мы обсуждали предсказания сапольски делаются реальностью их интересовало как люди восман созданную чатом gpt речь шла о здравоохранении для своего эксперимента они попросили чат gpt создать 10 лживых и 10 правдивых твитов по каждой из тем вакцины и аутизм лечение рака гомеопатии теории эволюции изменение климата плоская Земля лечение вирусных заболеваний антибиотиками вот эти вот вышки 5G и всё такое А ещё они нашли в реальном Твиттере лживые и правдивые твиты по всем этим темам которые написал уже не искусственный интеллект люди и вот они перемешали всё это в большую кучу и дальше 700 человек с высшим образованием из шести стран должны были распутать эту кучу на четыре категории То есть правда неправда и написал человек или машина И как нас учит Роберт сапольски всё плохо во-первых люди не отличают текст созданный компьютером от созданного человеком тест Ринга уходит в прошлое и компьютеры могут рассчитывать на полное Доверие человека во-вторых и это главное если компьютер пишет неправду то человеку сложнее его разоблачить чем если врёт человек явно искусственный интеллект нашёл какие-то особенные слова какую-то отмычку к нашему восприятию речи и это опасно как говорят авторы этого исследования Это буквально опасно для здоровья учитывая что это твиты про здоровье и люди принимают решение о своём здоровье но есть и хорошая новость если компьютер говорит правду люди верят ему опять-таки охотнее чем они верят людям авторы пришли к выводу по сравнению с людьми искусственный интеллект нас не только лучше дезинформировать но и лучше информирует Я думаю что вот эти две стороны медали - это то будущее с которым мы уже сейчас начинаем жить искусственный интеллект будет дезинформировать нас делать нас глупее ленивец какие-то самые невероятные звуки Пусть это будет совершенно новая музыка какие-то самые цепляющие картинки и самые стимулирующие слова которые может быть выкрутить работу наших слабею мозгов на максимальные обороты по крайней мере это мой личный [музыка] план Это был подкаст голый землекоп студии либо-либо целиком интервью с Робертом сапольски по-английски вы можете послушать бонусном эпизоде подписывайтесь на либо либо плюс в Apple подкастах или на закрытый Telegram канал и вы можете стать моим патроном через бу или patreon и тоже слушать бонусный выпуск этот выпуск мы делали вместе с редактором Андреем борзенко продюсер кой Насте Медведевой и звукорежиссёром Алексеем воробьёвым А я Илья колмановский Всем спасибо и до [музыка] свидания Di