gpt party 3.0. Этика и искусственный интеллект: навигация в мире машинных решений
В Кремниевой долине 9-10 марта прошел GPT Party 3.0 — самый масштабный русскоязычный нетворкинг-ивент, посвященный искусственному интеллекту. Более 450 человек собрались в Plug and Play, чтобы встретиться с ведущими экспертами, предпринимателями и инвесторами, обсудить последние тенденции в области искусственного интеллекта и получить практические знания.
В панельной дискуссии "Этика и искусственный интеллект: навигация в мире машинных решений" обсудили этику и мораль в условиях свободной робототорговли, роботовладения и практически безграничной эксплуатации роботов, а также моральные или этические вопросы, которые возникают с развитием искусственного интеллекта.
Спикерами панельных дискуссий были: Альберт Голухов, Ник Орешкин, Дмитрий Трифонов, Зарина Копырина, Александр Сорока; модератор дискуссии и автор вопросов - Павел Черкашин.
В панельной дискуссии "Этика и искусственный интеллект: навигация в мире машинных решений" обсудили этику и мораль в условиях свободной робототорговли, роботовладения и практически безграничной эксплуатации роботов, а также моральные или этические вопросы, которые возникают с развитием искусственного интеллекта.
Спикерами панельных дискуссий были: Альберт Голухов, Ник Орешкин, Дмитрий Трифонов, Зарина Копырина, Александр Сорока; модератор дискуссии и автор вопросов - Павел Черкашин.
Зачем нам искусственный интеллект и куда движется человечество?
Зарина Копылова: "Для меня искусственный интеллект - это, по сути, наше путешествие к самопознанию. Таким образом мы стремимся к осмыслению самих себя. Важно всегда глубоко обращаться к себе, к своей интуиции, внутреннему голосу и наследию предков - это всегда помогает найти свой путь. Мы все знакомы с состоянием измененного сознания, когда мы можем воспринимать мир по-новому. В таких моментах мы можем погрузиться в мир данных, который нас окружает. Именно через себя мы можем раскрыть глубину жизни. Все то, что мы создаем, - всего лишь инструменты, которые могут помочь тем, кто еще не осознал всю глубину своего бытия."
Что дает нам искусственный интеллект с точки зрения практического коммерческого использования технологий и зачем это людям?
Альберт Голухов: "Искусственный интеллект - это, конечно, революционный метод обработки информации, который стимулирует колоссальные прорывы в технологиях и искусстве. Зачем же ИИ нужен моральный кодекс? Многие, наверное, в детстве читали произведения Айзека Азимова, который в конце 70-х - начале 80-х годов сформулировал так называемые три закона робототехники. Первый из них гласит, что робот не может причинить вред человеку или своим бездействием допустить, чтобы вред был причинен. Второй закон предписывает роботу подчиняться человеческим приказам, если это не противоречит первому правилу. Третий закон предполагает, что робот должен заботиться о своем собственном самосохранении, опять же, если это не нарушает первые два правила. Конечно, эти формулировки были сделаны давно, они немного устарели. Сегодня возникает огромное количество других опасностей для общества, связанных с развитием искусственного интеллекта. Поэтому для ИИ нужен моральный кодекс, чтобы противодействовать рискам, связанным с неопределенностью этих технологий."
Альберт Голухов: "Искусственный интеллект - это, конечно, революционный метод обработки информации, который стимулирует колоссальные прорывы в технологиях и искусстве. Зачем же ИИ нужен моральный кодекс? Многие, наверное, в детстве читали произведения Айзека Азимова, который в конце 70-х - начале 80-х годов сформулировал так называемые три закона робототехники. Первый из них гласит, что робот не может причинить вред человеку или своим бездействием допустить, чтобы вред был причинен. Второй закон предписывает роботу подчиняться человеческим приказам, если это не противоречит первому правилу. Третий закон предполагает, что робот должен заботиться о своем собственном самосохранении, опять же, если это не нарушает первые два правила. Конечно, эти формулировки были сделаны давно, они немного устарели. Сегодня возникает огромное количество других опасностей для общества, связанных с развитием искусственного интеллекта. Поэтому для ИИ нужен моральный кодекс, чтобы противодействовать рискам, связанным с неопределенностью этих технологий."
Как с точки зрения финансов и экономики сделать так, чтобы искусственный интеллект всех сделал богатыми? Есть у тебя какое-то видение этого вопроса?
Николай Орешкин: "Да, я искренне верю в то, что в ближайшие десятилетия или два любой повторяющийся человеческий труд будет заменен искусственным интеллектом, потому что это будет дешевле, быстрее, эффективнее и надежнее. Я также верю, что и управление нашей цивилизацией может быть делегировано искусственному интеллекту. Однако здесь возникает этический аспект: мы инвестировали много ресурсов в написание книг, но книги не могут управлять нами, мы потратили триллионы человеко-лет на их создание, но сталкиваемся с проблемой передачи этих знаний следующим поколениям. Если мы доверим управление цивилизацией искусственному интеллекту, мы рискуем потерять стимул, понимание процесса управления и передачу знаний будущим поколениям. Мы можем потерять контроль. Поэтому нам необходимо разобраться с этим этическим аспектом: как сохранить мотивацию, когда мы все станем супер богатыми? Что делать дальше? Мы можем достичь сингулярности, перехода на новый уровень развития, и мы сами поставим себя перед риском. Готовы ли мы принять этот риск?"
Николай Орешкин: "Да, я искренне верю в то, что в ближайшие десятилетия или два любой повторяющийся человеческий труд будет заменен искусственным интеллектом, потому что это будет дешевле, быстрее, эффективнее и надежнее. Я также верю, что и управление нашей цивилизацией может быть делегировано искусственному интеллекту. Однако здесь возникает этический аспект: мы инвестировали много ресурсов в написание книг, но книги не могут управлять нами, мы потратили триллионы человеко-лет на их создание, но сталкиваемся с проблемой передачи этих знаний следующим поколениям. Если мы доверим управление цивилизацией искусственному интеллекту, мы рискуем потерять стимул, понимание процесса управления и передачу знаний будущим поколениям. Мы можем потерять контроль. Поэтому нам необходимо разобраться с этим этическим аспектом: как сохранить мотивацию, когда мы все станем супер богатыми? Что делать дальше? Мы можем достичь сингулярности, перехода на новый уровень развития, и мы сами поставим себя перед риском. Готовы ли мы принять этот риск?"
Ты выступаешь в качестве защитника освобождения машин в контексте их монетизации и алгоритмизации. Можешь ли ты прояснить, какова цель этого и почему это важно для людей?
Дмитрий Трифонов: "Я нужен людям, что они могли использовать искусственный интеллект, оплачивая его в разумных пределах, а не арендовать суперкомпьютеры у крупных компаний, например, у Майкрософта. Искусственный интеллект, конечно, помогает нам стать более продуктивными в работе, и в каком-то смысле он увеличивает разрыв между людьми. Те, кто имеет доступ к продвинутым ИИ, могут выполнять свою работу гораздо более эффективно и быстро, чем те, кто не имеет такого доступа. Это может привести к тому, что те, у кого нет доступа к ИИ, будут выполнять менее сложные задачи и зарабатывать значительно меньше. Я считаю, что все должны иметь равный доступ к инструментам ИИ, и правила игры должны быть равны для всех. Моя цель - помочь решить эту проблему."
Несколько лет назад ты говорил вещи, которые казались фантастическими, но сейчас они начинают сбываться. Ты видишь то, чего мы еще не знаем? Что ожидать с точки зрения морали и этики?
Александр Сорока: "По своим убеждениям, я в целом придерживаюсь позиции эмпирического скептика. Хотя я верю, что искусственный интеллект в ближайшие 10 лет проникнет в каждую индустрию и значительно изменит их, пока что я не вижу настоящего искусственного интеллекта на горизонте. Практически все, кто имел опыт работы с ИИ, понимают, что на данный момент это просто статистические модели и алгоритмы, которые могут помочь нам стать более эффективными и улучшить нашу жизнь. Пока что настоящий искусственный интеллект отсутствует, а следовательно, и угроз, исходящих от него нет. Поэтому я считаю, что обсуждения об этике в связи с ИИ пока преждевременны, и нам следует сначала разобраться со своей собственной этикой."
ответы на вопросы из зала
Искусственный интеллект - это следующая ступень развития человечества, которая может расширить наши возможности. Зачем мы накладываем на него те же моральные ограничения, что и на себя, вместо того чтобы использовать его для создания чего-то нового?
Александр Сорока: "Да, на самом деле, этот вопрос интересный. Мы можем гипотетически предположить, что в какой-то момент искусственный интеллект сравниться с нашим. Я уверен, что в аудитории много людей, которые верят, что мы, по сути, являемся искусственным интеллектом. Независимо от того, верим ли мы в христианские, мусульманские или научные убеждения, существует общее мнение о том, что наш создатель дал нам свободу воли и убрал все ограничения. Да, он передал нам знания о марали и нравственности, но мы все равно часто не соблюдаем эти правила и причиняем друг другу вред. Возникает вопрос: должны ли мы дать нашему искусственному созданию свободу воли? Сможет ли оно делать все, что захочет? И нужны ли ему люди, чтобы вести себя адекватно? Однако, я думаю, это вопрос на далекое будущее."
Александр Сорока: "Да, на самом деле, этот вопрос интересный. Мы можем гипотетически предположить, что в какой-то момент искусственный интеллект сравниться с нашим. Я уверен, что в аудитории много людей, которые верят, что мы, по сути, являемся искусственным интеллектом. Независимо от того, верим ли мы в христианские, мусульманские или научные убеждения, существует общее мнение о том, что наш создатель дал нам свободу воли и убрал все ограничения. Да, он передал нам знания о марали и нравственности, но мы все равно часто не соблюдаем эти правила и причиняем друг другу вред. Возникает вопрос: должны ли мы дать нашему искусственному созданию свободу воли? Сможет ли оно делать все, что захочет? И нужны ли ему люди, чтобы вести себя адекватно? Однако, я думаю, это вопрос на далекое будущее."
Сегодня искусственный интеллект создает множество материалов. Может быть, стоит начать добавлять примечание внизу, указывая, что контент создан при помощи ИИ? Это особенно актуально для статей и других публикаций, чтобы сохранить идентичность и авторство человека?
Дмитрий Трифонов: "Да, я считаю, этот вопрос крайне важен. Не только потому, что нам необходимо признавать усилия авторов, но также потому, что искусственный интеллект в настоящее время обучается на контексте интернета и продолжает эволюционировать на основе создаваемых самим искусственным интеллектом данных. Мы не до конца понимаем, к чему это может привести. Поэтому я считаю, что важно не только признавать и вознаграждать авторов, но и предотвращать замкнутый цикл этого процесса."
Присоединяйтесь к следующему GPT Party,
чтобы не пропустить выступления приглашенных спикеров
Malikspace Corporation.
541 Jefferson Avenue
Redwood City, CA 94063
Email: a@murs.ai
541 Jefferson Avenue
Redwood City, CA 94063
Email: a@murs.ai
