Давно хотела эту темку открыть, да все не было времени. А зря, столько интересных диалогов пропало… Я к тому, что если у кого когда случались странные диалоги с нашим искусственным чудо-интеллектом Алисой и прочими подобными, смело кидайте сюда скрины. Посмеемся вместе.
Короче, частенько такое бывает, что просто не держится в голове дата. Помню что в конце октября Хэллоуин. Но с 30 на 31 или с 31 на 1 вечно забываю. Вбила вопрос Алисе…
Если честно, до сих пор не то умиляет, не то озадачивает это повальное очеловечивание ИИ. Вы же понимаете, что это набор заготовленных фраз и действий, правда?) Например, сверить дату.
Буквально вчера коллега рассказывала, что с одной из нейросетей, которую она использует, они всё время ругаются. Ругаются, понимаете?) У меня вот что не сходится: как можно поругаться с алгоритмом? Ладно еще, если у нейросети режим такой выставлен - для того и ставят. Но ваш скрин очень напоминает те ностальгические времена, когда люди кричали на телевизор.
В общем, у меня это вызвало намного больше вопросов, чем очевидный глюк ИИ.) Для меня это странно.
С дилерами дела не имею, но могу дать номер хорошего реабилитационного центра))) За время отпуска прокапаетесь, в себя придете, перестанете грезить о товаре))) И во всех видеть коллег по несчастью))
Упаси Аллах. Я всего-навсего хотел пошутить, а не обидеть вас. Я, любезнейшая, максимум, что могу себе позволить - стаканчик красного вина. Среди друзей и знакомых нет тех, кто балуется чем-то более тяжелым. Такшта вот так. Спасибо за внимание.
У меня вот что не сходится: как можно поругаться с алгоритмом?ЦитатаНейросети-ИИ - это НЕ алгоритмы. Это явления более высокого порядка.
Как вот есть одноклеточные организмы, есть колонии одноклеточных организмов, а есть первые, очень примитивные, но всё же - уже многоклеточные организмы, где есть несколько разных типов клеток с разными функциями.
Вот так и здесь. Внешне может особого отличия и нет, но явления - принципиально разного порядка.
Естественно, это была упрощенная формулировка - вы придираетесь к словам, Никко) Ничего принципиально не изменится, если мы назовем это не алгоритмом, а математической моделью или "компьютерной системой, имитирующей работу человеческого мозга". Суть останется прежней: это, что бы оно ни было)), - не одушевленное существо с разумом и личностью. Оно действует по аналогии с работой человеческого мозга - да, способно "обучаться" - да, и даже способно имитировать наличие личности - да, но, уверена, вы правильно поняли, о чем я писала комментом выше. Более того, всё перечисленное - это по-прежнему алгоритмическая обработка данных.
Он не "понимает" вопрос - он анализирует статистические связи в тексте, ищет и выдает самый вероятный ответ. Он не "оценивает" и не "выдает эмоциональную реакцию" - он сопоставляет данные с заданными правилами или обученной моделью и выдает результат на основе вероятностей. Он не "учится" - он оптимизирует параметры модели под новые данные - обновляет статистику. Как браузер или сайт. Он не "ошибается" - он выдает неверный результат из-за недостатка данных или некорректного ввода.
Он действует по паттернам, на основе известной информации - это принципиальное отличие. Он ничего не создает - воспроизводит. Это по-прежнему цифровой продукт, ПО, компьютерная программа. Намного более сложная, чем то, что мы привыкли называть этими терминами, и тем не менее.
Антропоморфизм в отношении ИИ вполне объясним - эволюция, когнитивное упрощение, происки маркетологов и пр. Но от этого он не перестает быть забавным.)
Для меня это просто поисковик, который за неимением данных для ответа додумывает их сам, проще говоря - врет. Обобщенно - это так и есть. Как ты это ни назови. А когда припирают к стенке, нагло говорит: "Не за что. Обращайтесь еще..."))
Это я не конкретно о вас, а в целом. Вообще довольно тревожная тенденция, если посмотреть на истории о романтических чувствах, возникающих к нейросетям, и прочее. Наверное, эта грань настолько стерта еще потому, что мы привыкли к общению в чатах, на форумах - подразумевать наличие человека за текстом.
Мне что платный, что бесплатный GPT, если не могут дать ответ, так и пишут - что недостаточно информации/ она не подтверждена и т.д. Но бывают и глюки, да. А когда припирают к стенке, нагло говорит: "Не за что. Обращайтесь еще..."))ЦитатаЭто разработчики просто самонадеянно подразумевают, что в ответ на его ответ пользователь его не иначе как благодарит))
Естественно, это была упрощенная формулировка - вы придираетесь к словам, Никко)ЦитатаЯ не придираюсь к словам. Это принципиальный момент. ИИ - это НЕ алгоритм, это - другое (с) :). Ничего принципиально не изменится, если мы назовем это не алгоритмом, а математической моделью или "компьютерной системой, имитирующей работу человеческого мозга". Суть останется прежней: это, что бы оно ни было)), - не одушевленное существо с разумом и личностью.ЦитатаИзменится. Тут сразу несколько аспектов.
1) Для вас важно, что это - не одушевленное существо. А для меня важны вот эти принципиальные различия. Потому что "кто ясно мыслит, ясно излагает". Потому что алгоритм - это совсем другое. И алгоритм мыслить не может в принципе. Скажем так - он даже "квазимыслить" не может.
2) Математическая модель - это вообще-то немного другое, но - пусть будет. А вот "имитирующей работу человеческого мозга" - тут я тоже не совсем согласен. Строго говоря, ИИ не только и не столько "имитирует работу мозга". Он занят немного другими вещами. Но если смотреть с точки потребителя, то - да, можно так сказать. То есть вы как-то подсознательно упрощаете ИИ, низводите его если не до уровня кофеварки, то вот до уровня телефона, например.
Впрочем, ведь как работает телефон - тоже большинство потребителей не в курсе :). Он не "учится" - он оптимизирует параметры модели под новые данные - обновляет статистику. Как браузер или сайт. Он не "ошибается" - он выдает неверный результат из-за недостатка данных или некорректного ввода.
Он действует по паттернам, на основе известной информации - это принципиальное отличие. Он ничего не создает - воспроизводит.ЦитатаЯ приводил тут пример - игра в го. Некоторые считают ее очень сложной игрой, сложнее шахмат, хотя сами правила и "антураж" предельно просты. Ребята обучили ИИ играть в го. Рассказали правила, обучили на нескольких тысячах партий. Посадили играть с мастером среднего уровня. Ии обыграл человека, но играл не очень сильно. Потом посадили его играть с одним из лучших гроссмейстеров. ИИ опять его обыграл, и вот тут все поразились - он использовал приемы, этому гроссмейстеру неизвестные.
То есть ии не просто учится на базе данных. Он что-то придумывает сам. И если отфонарные ссылки на несуществующие научные работы нам не нравятся (хотя он их придумывает сам - это факт), то вот игра в го - пример сугубо позитивный. Это по-прежнему цифровой продукт, ПО, компьютерная программа. Намного более сложная, чем то, что мы привыкли называть этими терминами, и тем не менее.ЦитатаВот о том и речь. НЕ алгоритм и НЕ компьютерная программа. Это - ДРУГОЕ. Не специалисту в кибернетике или хотя бы математике-электронике это понять трудно, но - другое, да. Как вот компьютер и паровая машина, например. Грубое сравнение, но по сути - верное. Это разные классы, разные уровни. Как вот одноклеточные и насекомые, например.
важны вот эти принципиальные различия. Потому что "кто ясно мыслит, ясно излагает"ЦитатаКуда уж яснее: каждый ИИ - алгоритм, но не каждый алгоритм - ИИ. Спорите вы именно с этим.) Математическая модель - это вообще-то немного другое, но - пусть будет.ЦитатаИИ работает с математическими структурами и считывает информацию, насколько понимаю, тоже математически, генерит ответы с помощью вычислений - что вас смущает в этом названии для него?) И алгоритм мыслить не может в принципе. Скажем так - он даже "квазимыслить" не может.ЦитатаТак потому я и упростила в том контексте. А контекст у нас был, напомню, связан с околоэмоциональными проявлениями - "ложью" ИИ и ссорами с ИИ.
Знаете ли вы, что сам ИИ называет себя алгоритмом и статистической моделью?) ИИ не только и не столько "имитирует работу мозга". Он занят немного другими вещами. Но если смотреть с точки потребителя, то - да, можно так сказать.ЦитатаХоть эта формулировка не моя, я с ней согласна: ИИ функционирует по очень схожим принципам - на уровне алгоритмов воспроизводит когнитивные процессы. То есть вы как-то подсознательно упрощаете ИИ, низводите его если не до уровня кофеварки, то вот до уровня телефона, например.ЦитатаОтчего же, в этой ветке - вполне сознательно) Зачем сложно описывать то, для чего есть простые названия? Я не оспариваю сложности, прогрессирования и значения ИИ. Я пользуюсь им ежедневно по работе, изучаю и его возможности, и тему ИИ/ML в целом. Чего я точно против - его романтизации и приписывания ему эмоциональной составляющей, причем что в положительном, что в отрицательном ключе, без разницы. Эмоций там нет, им просто неоткуда взяться. Если хотите, давайте добавим здесь "пока" и "насколько я могу судить".)) Этот факт никуда не низводит ИИ в моих глазах и никуда не возводит человека, но это факт. На сегодняшний день.) Кто знает, может, когда-то появится фундаментально иная модель - не предикативная, а повторяющая нервные процессы как таковые.
В примере из старттопика ИИ совершенно точно не врал в человеческом понимании этого слова, и ответил он свое финальное "конечно, обращайтесь еще", руководствуясь как раз прописанным алгоритмом, о чем и речь.) Если очень упростить, все они работают по принципу "если..., то...". Что это, если не алгоритм?) Очень сложный и очень продвинутый, и тем не менее. Просто в обычном алгоритме эти условия прописаны, а ИИ их подставляет/выводит статистически. ИИ опять его обыграл, и вот тут все поразились - он использовал приемы, этому гроссмейстеру неизвестные.ЦитатаНе знаю, почему такие вещи поражают, тем более почему они поражают вас. В одной из бесед на эту тему с другим пользователем я уже приводила пример с калькулятором и автомобилем. Один считает лучше-быстрее человека, другой передвигается быстрее человека. Станки работают точнее человека. Промышленные прессы сильнее человека. Обычный лифт сильнее человека. Что в этом удивительного? Так же и с возможностями ИИ в любой сфере, не только с игрой в го или математикой. Я не вижу в этом проблемы или угрозы, чего-то удивительного тоже. Для меня это, скорее, закономерно. Как и само появление сегодняшнего ИИ. Не вижу причин ни для опасений, ни для благоговения.
Еще один яркий пример - с какой-то компьютерной игрой, в которой ИИ поделили на команды и дали задачи: один должен был нападать на человечков в комнате, другой - защитить человечков в комнате. Прямых указаний, как это можно сделать, не давали. И все тоже были в шоке, мол, "оно совершенствуется, оно мыслит, оно творчески подходит к задаче", когда обе модели путем простого перебора вариантов в конце концов нашли решение поставленным задачам. Эка невидаль.)
Классические ии-персонажи в играх (npc) умеют это делать уже давно - подстраиваются под уровень подготовки и стиль игры конкретного юзера. Да что там, даже в играх бородатых 90-х в режиме "игра против компьютера" этот компьютер-противник действовал ровно по тому же принципу, что сегодняшние NPC и ИИ из вашего и моего примеров - "если..., то...".) Потому в таких и подобных им историях я вижу маркетинг с одной стороны и недостаточную осведомленность с другой. Потому, повторюсь, меня удивляет, что такие истории впечатляют и наталкивают на мысли о разумности ИИ конкретно вас.
Мне кажется, механизм веры в разумность ИИ очень схож с верой в таро, астрологию, нумерологию, магию и пр. Люди любят сказки, они упрощают и разнообразят жизнь.) Возможно, через такую призму разумности искин даже проще для человеческого понимания. В том числе и в вопросе вынужденной конкуренции с ним и/или проигрыша в этой конкуренции - так проще объяснить себе, почему, и принять это "почему". Ведь ИИ замахнулся на слишком многие отрасли. Мне кажется, проблему с темой "исключительности человека" и его сознания имеют именно люди, очеловечивающие ИИ в том или ином виде, а не такие, как я. На мой взгляд, они очеловечивают ИИ именно поэтому - кто еще способен на такое, на что способен ИИ, если не высший разум, близкий к человеческому.
Но, повторюсь, на мой взгляд, разума там нет и взяться ему там неоткуда. Эти модели не размышляют, не имеют своего мнения - они генерят ответы на основе доступных данных и вероятностей. Это как задать вопрос и потрясти магический шар предсказаний, в котором просто на миллиарды-миллиарды больше вариантов ответа.) Потому для меня это по-прежнему ПО, просто с обученной системой сверху. Во многом превосходящее человеческие возможности, но по-прежнему не имеющее ничего общего с чем-то/кем-то разумным. У него нет сознания, самосознания, нет воли, нет эмоций. У него нет намерений - он просто выполняет поставленные задачи. Это математическая модель, работа которой создает иллюзию ее разумности. Но это не так. Это инструмент - не разум. Потом посадили его играть с одним из лучших гроссмейстеров. ИИ опять его обыграл, и вот тут все поразились - он использовал приемы, этому гроссмейстеру неизвестные. То есть ии не просто учится на базе данных. Он что-то придумывает сам. И если отфонарные ссылки на несуществующие научные работы нам не нравятся (хотя он их придумывает сам - это факт), то вот игра в го - пример сугубо позитивный.ЦитатаЭто же какая-то логическая ловушка. Или когнитивная ошибка антропоморфизации) То, что использованные ИИ приемы не были известны гроссмейстеру, не значит: что ИИ придумал их сам, что их до этого не существовало и/или они не известны другим гроссмейстерам), что этих ходов не было в базе партий, на которых обучался этот ИИ, что эти ходы не были результатом обучения ИИ на этой базе партий.
Что возвращает нас к NPC. Я не вижу в этом эпизоде ничего принципиально нового. Это уже есть и широко используется, давно, это уже было. И это никак не говорит о разумности ИИ (его способности что-то придумать самостоятельно в частности). Просто NPC попроще - они имитируют разум с помощью прописанных сценариев, а ИИ - через статистическую генерацию. То есть, по сути, ту же выборку сценариев, просто во много раз сложнее. А логика идентична - в реактивности. NPC симулирует разум на уровне поведения, ИИ - на уровне языка. Обе системы работают по паттернам. Даже если это кажется кощунственным упрощением, оно верно. Вот о том и речь. НЕ алгоритм и НЕ компьютерная программа. Это - ДРУГОЕ. Не специалисту в кибернетике или хотя бы математике-электронике это понять трудно, но - другое, да. Как вот компьютер и паровая машина, например. Грубое сравнение, но по сути - верное. Это разные классы, разные уровни. Как вот одноклеточные и насекомые, например.ЦитатаЯ ведь в процитированном вами фрагменте именно это и написала и тем более этого не оспаривала - вы снова цепляетесь к словам, Никко). Намного более сложное, да, разных уровней, да, но суть та же. Совсем как и компьютер, и паровая машина - преобразующие системы, и одноклеточные, и насекомые - живые существа. Просто разные по сложности организации. Хорошо, давайте сойдемся на цифровом продукте с обученной моделью, если вам претят мои грубые упрощения и/или вы считаете их уничижительными.)
Вспомнился забавный факт в тему. Насколько помню, некоторые одноклеточные могут демонстрировать поведение, похожее на обучение, как и отдельные клетки.
Это же какая-то логическая ловушка. Или когнитивная ошибка антропоморфизации) То, что использованные ИИ приемы не были известны гроссмейстеру, не значит: что ИИ придумал их сам, что их до этого не существовало и/или они не известны другим гроссмейстерам), что этих ходов не было в базе партий, на которых обучался этот ИИ, что эти ходы не были результатом обучения ИИ на этой базе партий.ЦитатаСорри, что вклиниваюсь, но я кратко.
Вы не правы. И это легко гуглится. Прочитайте про "Ход 37" (Move 37) в партии AlphaGo (ИИ) c Ли Седолом (самым крутым на тот момент чемпионом в Го).
Если кратко, этот ход был неизвестен ни одному игроку Го, ни одному чемпиону, т.е. в базе чемпионских игр его не было, чтобы его можно было тупо запомнить, а потом реализовать.
Более того, Ход 37 был контринтуитивным, т.е. в процессе игры все подумали, что ИИ сделал тупейшую ошибку и даже напугал создателей модели AlphaGo, но именно этот ход предрешил исход игры (одной из пяти партий). В Википедии (русскоязычной) написано: "Ход 37, «удар в плечо», отвергающийся классической теорией игры."
Об этом написаны тысячи статей. Можете загуглить сами. Модель AlphaGo продемонстрировала именно игровую инновацию, с математической точки зрения невероятно крутую и ни одному человеку неочевидную. И это только один пример (их гораздо больше, в т.ч. в других играх).
Кстати, я уже о Ходе 37 Вам писал и даже давал пруфы, но Вы невероятно забывчивый человек и продолжаете упорствовать на своем :-)
Если я забывчивый человек, вы человек невнимательный) Вы не обратили внимание на последний пункт в процитированном вами списке - "что эти ходы не были результатом обучения ИИ на этой базе партий". Тем более, модель, о которой мы говорим, обучалась на огромном количестве партий, а затем в режиме самостоятельной игры. И именно поэтому она нашла это решение. Она перебирает миллионы вариантов, в том числе тех, которые люди отметают по субъективным причинам. Это не воображение и не творчество - это та же самая математика и статистика, камон.) Он генерирует решения методом перебора. Как и всегда.
Итак, что мы имеем. ИИ способен к обучению и обобщению/структурированию информации. ИИ нашел решение, которое не было очевидно опытным игрокам в го. Точно так же, как он это делает с поиском признаков заболеваний, в разработке лекарств и пр.
И какой же из вариантов вероятнее и правдоподобнее:
Вариант 1. ИИ нашел это нестандартное для людей-игроков решение в результате обучения и структурирования доступной информации (это и есть суть этой системы, напомню) - то есть нашел оптимальное решение в заданных условиях?
Вариант 2. ИИ придумал новый ход, потому что способен мыслить и придумывать что-то сам?
Вы, как и Никко, очевидно, склоняетесь ко второму варианту. Это я и называю романтизацией ИИ и его возможностей. Это еще более странно для меня, ведь вы читали об этом эпизоде куда больше моего, а я посмотрела подробнее просто вот только что.
ИИ видит симптомы заболеваний там, где их не видят даже опытные врачи, он точнее в диагностике. Это значит только то, что опытные врачи не видят того, что есть - что-то от них ускользает. А от ИИ - нет. ИИ видит то, что есть. Это говорит не о совершенстве ИИ, а о несовершенстве человека в первую очередь. Так же, как микроскоп или роботизированные системы в хирургии помогают компенсировать несовершенство зрения и моторики человека.
То же самое и с этим ходом 37 - этот ход был возможен и соответствовал правилам игры, ведь так? Просто он ускользал от игроков по причинам, о которых вы, уверена, читали больше моего). ИИ нашел оптимальное решение, увидел то, что есть и что можно использовать. И использовал.
По-вашему, это делает его мыслящим/разумным? Вы романтизируете.) Ведь он действовал по правилам игры и его задача была победить. То есть модель сделала ровно то, для чего создавалась, в диапазоне ее возможностей. То, что возможности ИИ превосходят человеческие - не секрет. Но это не делает его разумным и тем более мыслящим. Это просто еще раз показывает, в какой еще сфере возможности человека ограничены.
Человек видит в го на 7-10 ходов вперед. Та модель видела на сотни ходов вперед. Так что всех настолько удивляет в том, что ИИ нашел решение, неочевидное человеку - что в этом принципиально нового? Ничего. Это не случайность и не феномен - это результат все того же статистического обучения.
Мне кажется, что многим людям просто сложно это принять – что человек не венец вот прям настолько и вот прям в настолько многом.)) Отсюда, на мой взгляд, и растут корни всех этих мистификаций вокруг ИИ – дело в человеческом эго. По которому ИИ топчется все сильнее.)
Приветствую)ЦитатаИ я Вас тоже! Она перебирает миллионы вариантов, в том числе тех, которые люди отметают по субъективным причинам.ЦитатаИменно так, но люди делают то же самое, только хуже. В этом смысл любой подобной игры - вычислить удачные ходы, которые ведут к выигрышу. Сейчас точно не скажу, но и в шахматах, и в Го есть предел, когда сложность предсказания последствий каждого последующего хода возрастает так сильно, что даже современному супер-компьютеру для решения подобных задач нужны тысячи и миллионы лет вычислений. Заслуга АльфаГо в том, что она как-то смогла оптимизировать этот процесс без тысяч и миллионов лет. Банальной комбинаторикой это уже не назовешь. Как она это сделала, думаю, не знает никто. Это говорит не о совершенстве ИИ, а о несовершенстве человека в первую очередь.Цитата Ну это уже больше словесная эквилибристика. Сорри. Это что-то из серии про "отрицательный рост" или что-то в этом роде :-) Мне кажется, что многим людям просто сложно это принять – что человек не венец вот прям настолько и вот прям в настолько многом.)) Отсюда, на мой взгляд, и растут корни всех этих мистификаций вокруг ИИ – дело в человеческом эго. По которому ИИ топчется все сильнее.)ЦитатаТак я именно про это на форуме тут все время и пишу. ИИ хорошо показал, что ценность многих привычных вещей, которые раньше были исключительно прерогативой человека (типа музыки, рисования, стихоплетства и прочего) сильно преувеличена. Вопрос про AI consciousness, self-awareness и прочее роли большой не играет. Что это меняет в принципе?
Как-то потерялся этот ваш коммент со стартом конкурса) Вернулась на пару слов.) Именно так, но люди делают то же самое, только хуже.ЦитатаЗачем вы за мной повторяете?))
Но если посмотреть шире: что удивительного в том, что модель выполняет задачу, для выполнения которой она создавалась? Почему это до сих пор удивляет людей - почему?) У нее банально оперативки поболее (на оч много), чем у среднестатистического человека и даже гроссмейстера. Так что удивительного в том, что она играет в такие игры лучше - просчитывает больше ходов и комбинаций?
Это как посадить обычного человека против гроссмейстера. Вы же знаете, кто победит, и знаете почему, верно?
Мы не удивляемся, что калькулятор считает лучше. Так что удивительного, что нейросеть, которая куда сложнее и мощнее калькулятора, считает тем более лучше или знает больше слов, которые рифмуются с "морковь"?) Заслуга АльфаГо в том, что она как-то смогла оптимизировать этот процесс без тысяч и миллионов лет. Банальной комбинаторикой это уже не назовешь. Как она это сделала, думаю, не знает никто.ЦитатаЯ изучила, как она это сделала, в том числе спросила чат.) Сейчас мы с ним вам все объясним, почти кратко)
AlphaGo не перебирает прям все возможные варианты (тут вы оказались больше правы, чем я) - она оценивает позиции.
Итак, как же она это сделала, по версии чата: - оценила позиции вероятностями, - сравнила множество будущих деревьев ходов, - выбрала траекторию с высокой вероятностью победы.
//То есть она выбрала лучший путь из огромного множества возможных.
Мы знаем, как работает нейросеть структурно, но не можем подробно объяснить, почему она делает конкретные решения (потому что у нас куда скромнее оперативка и мы в принципе не способны охватить такие масштабы данных, тут же вы не будете спорить?)) Потому что внутренних весов там миллионы.
Чат мне объяснил, что AlphaGo это удалось с помощью трех механизмов. Если вкратце, мое предположение в общем и целом оказалось верно: у него больше оперативки, больше объемы данных, намного больше опыта сыгранных партий - вот и весь секрет.)
Итак, вот что вкратце ответил мне чат (на глубокий анализ вопроса не претендую - просто сократила для вас тезисно, вдруг вам интересно. Если действительно интересно, просто вбейте свой абзац, начиная с шахмат, в чат и спросите «что можешь сказать по этому поводу» - там много интересного по каждому вашему тезису - в чем-то он с вами согласен, в чем-то нет.))
Итак:
1.Policy Network (сетевая интуиция) - она училась на партиях профессионалов и самообучении. Потому легко предсказывает, какие 2–3 хода из 200 возможных перспективные. (против 7-10 предсказанных ходов у человека, тут уже все ясно, кто победит, кто проиграет, верно?)) 2. Value Network (сетевая оценка) - она просчитывает вероятность победы из текущей позиции. 3. Monte Carlo Tree Search (выбор траекторий) После того как Policy предлагает 2–5 ходов, AlphaGo: симулирует короткие “деревья вариаций”, использует Value для оценки узлов, быстро отсекает бесперспективные ветки.
То есть AlphaGo впервые: соединила статистическую интуицию (policy), с позиционной оценкой (value), с вероятностным деревом поиска.
//Но это по-прежнему математика и статистика.))
Ход 37 появился в результате: миллионов микроскопических весов, статистического обучения, оптимизации через self-play, стохастических выборов.
Еще из интересного: AlphaGo создала нелинейную интуицию, которая превосходит человеческую.
Человек может сыграть 50–100 тысяч партий за жизнь, его интуиция основана на понимании структуры: “эта форма слабая”, “эта группа под давлением”.
AlphaGo сыграла миллионы партий сама с собой. Причём она: исследует варианты, которые человек бы отбросил как “глупость”, запоминает не концепции, а статистические корреляции в огромном пространстве данных.
Человек обобщает смысл: “камень здесь даёт влияние”, “эта форма жёсткая”, “центр важнее края”.
ИИ обобщает числа. Он не знает, что такое “центр важнее края”. Он просто вычисляет: позиции подобного типа → чаще приводят к победе. Это не концептуальное мышление, а матрица весов.
ИИ принимает решение через параллельную обработку сотен слоёв, которые мы не можем интерпретировать.
Мы: знаем структуру сети, знаем, как она обучалась, но не можем извлечь смысл весов.
Весов — миллионы. Каждый — часть огромной функции.
Чем больше пространство — тем больше шанс, что модель найдёт нетривиальный путь. (снова камешек в тему объемов оперативки и вычислительных мощностей по сравнению с человеческим мозгом). ИИ “понимание” является: статистической функцией, предсказанием вероятности выгодного будущего, набором численных активаций.
Он не понимает игру — он моделирует вероятности игры.
Это называется функциональное понимание: оно работает, но не имеет субъективного содержания.
//Вот здесь собака и порылась по поводу творчества.
У ИИ нет “опыта”. Есть только преобразование входа в выход через веса. Он просто манипулирует символами. Главное отличие Мозг → “понятие” —> “переживание” —> “действие”. ИИ → “входные данные” —> “вычисление” —> “выход”.
То есть: мозг имеет субъективный опыт мира, ИИ не имеет мира, только математику.
И еще тему о творчестве
Как эмергентное поведение ИИ связано с феноменом творчества Творчество у человека - это: комбинация памяти, интуиции, концепций и эмоций, переформулирование опыта, внутреннее “озрение”, субъективный смысл.
“Творчество” ИИ - это когда модель: комбинирует паттерны, выходит за пределы встречавшихся примеров, использует неожиданные связи, создаёт новое решение,
— мы называем это “творчеством”.
но ИИ не имеет: намерения творить, внутреннего видения, эстетического чувства, переживания новизны.
Это эмергентная оптимизация, а не творчество как внутренний акт субъективности.
Почему это похоже на творчество
Потому что результат: непредсказуем, оригинален, качественен, не сводится к копированию, содержит новые решения (например, ход 37 или неожиданные ответы GPT).
Но внутренний механизм не творческий, а статистический.
//В этом вся соль, именно поэтому ценность такого ИИ-творчества очень спорная и, отдавая должное и находкам ИИ, и здавому смыслу, напишу "неоднородная" - он может выдать гениальный ход 37, а может выдать шлак, который, уверена, вам тоже встречался, в том числе и на этом конкурсе.
Почему мы воспринимаем это как творчество Потому что: Когда система создаёт новое и неожиданное решение, мы автоматически проецируем на неё свой ум. Так же, как человек проецирует “лицо” даже на розетку. Это — человеческая когнитивная ошибка: антропоморфизировать всё, что действует нетривиально.
Главный итог ИИ не понимает и не творит, но демонстрирует результаты, которые функционально похожи на понимание и творчество. Это не разум, не сознание и не мысль в человеческом смысле. Это статистическая интуиция, эмергентная структура, оптимизация огромного пространства решений. ИИ не мыслит, но его поведение может превосходить человеческое там, где людям недоступен полный обзор решения.
Чем функциональное “понимание” отличается от философского
Это один из ключевых вопросов современной философии ИИ. Разница радикальная.
Функциональное понимание = способность системы успешно действовать, как будто она понимает. Характеристики: нет внутреннего смысла, нет субъективности, нет саморефлексии, нет осознанности, нет интерпретации.
Модель просто: обрабатывает вход, использует накопленные статистические связи, выдаёт выход.
ИИ не “знает”, что он делает. Он просто делает. Это функциональное поведение. Это то же, что калькулятор “понимает” математику → он не понимает, а правильно действует.
//Видите, даже чат со мной согласен)) ценность многих привычных вещей, которые раньше были исключительно прерогативой человека (типа музыки, рисования, стихоплетства и прочего) сильно преувеличена. Вопрос про AI consciousness, self-awareness и прочее роли большой не играет. Что это меняет в принципе?ЦитатаПо поводу творчества он мне тоже частично накидал в процессе обсуждения предыдущего вопроса - поделилась выше.
На мой взгляд, вы все же сильно путаете техническую возможность сочетать ноты и слова в определенной последовательности и вариативности комбинаций (как в песнях, стихах и прозе) и суть искусства. Она именно в самовыражении - в реакции одного человека на мир и реакции других людей на эту его реакцию, интерпретацию действительности, если хотите.
А то, что делает чат, в моем представлении имеет столько же ценности в этом смысле, сколько попса или графомания (что зачастую одно и то же). В нем нет рефлексии и именно что интерпретации действительности, субьективности, субьектности. Новое и красивое в нем - это результат статистики, повезет-не повезет. Это /не/ творчество. Это механическая имитация творчества, разница здесь принципиальная. Это как вот он ваш друг детства и вот она тысяча ноунеймов в друзьях на майспейс. Ценность творчества всегда в личности творца, его видении мира, субъективном опыте.
Это как дать в руки роботу кисть, которую вы предварительно обмакнули в краску своего любимого цвета, и нажать на кнопку, чтобы робот дернул рукой. А затем восхищаться, как изысканно пятна легли на холст. Совсем как импрессионизм, да? Но это совершенно точно не он. Даже если его повесить на стену и подписать крупно "импрессионизм". Точно так же, как улыбка робота не имеет ничего общего с эмоциями, которые вызывают улыбку на лице человека. Это как машина-робот для приободряющего похлопывания по плечу. Как резиновая Зина или просто платная Зина. Механически - практически то же самое. Но ощущения не те. Потому что только "практически". Потому что оно не настоящее - ни улыбка, ни похлопывание по плечу, ни Зина, ни творчество.
Вот вас обнимает мама, любимый человек, ваш ребенок, да даже кошак. И вот вас похлопывают по плечу руки из силикона с подогревом, который наощупь совсем как кожа, или руки профессионального обнимателя (в Азии есть такая услуга). Уверена, разницу между такими объятиями вы почувствуете и прямо сейчас чувствуете, о чем я.
Вот рисунок ребенка, накарябанный маме к 8 марта, корявый. А вот рисунок нейросети в стиле рисунка ребенка для мамы к 8 марта. Первое мило и штучно, второго можно наклепать тыщу вариантов, но а смысл? Смысл? Его нет.
О чем это я? Субъективность и интент, они важны.) Без них и творчество, и улыбки, и обьятия - просто механика, то есть мусор. Без эмоций с той стороны они не стоят ничего.
Так что удивительного в том, что она играет в такие игры лучше - просчитывает больше ходов и комбинаций?ЦитатаНу тогда можно сказать: а что удивительного в том, что изобрели самолет и летают между странами за пару часов, а не ездят на конном экипаже за пару недель. Это ведь не противоречит законам аэродинамики. Чему тут удивляться?
Как минимум удивляет то, что раньше этого не было. Вас не удивляет, что ИИ водит автомобили? В Лос-Анджелесе (и др. городах Калифорнии) вроде в следующем году (т.е. уже очень скоро) беспилотным такси Waymo разрешат ездить по объездным скоростным дорогам (хайвеям). На Ютубе тамошние таксисты заявляют, что они почти наверняка потеряют работу, т.к. сейчас они выигрывают хотя бы тем, что возят по скоростным шоссе народ в аэропорт и в разные пригороды.
А система распознавания лиц с помощью ИИ Вас не удивляет? Найти человека из миллиона других. Видел статистику недавно, что в мире (особенно в мегаполисах, где масса камер на улицах, на домофонах и т.д.) преступности сильно стало меньше.
А то, что ИИ уже сейчас находит новые антибиотики за счет машинного обучения (модель ИИ - SyntheMol, разработанная в Stanford Medicine), Вас не удивляет? Или, например, там же в Стэнфорде, ученые разработали модель ИИ - Evo (это, по сути, LLM), которую обучали на ДНК вирусов бактерий (бактериофагов). Сейчас эта модель может создавать геномы вирусов, которые убивают бактерии. А скоро уже можно будет создавать полностью искуственные геномы, которых никогда не было в природе за все 4,5 млрд. лет существования планеты. Т.е. полностью кастомизированные геномы живых существ.
Ну и т.д. Это ли не "вау"? И это все происходит в сравнительно короткое время, при нашей жизни. Еще недавно об этом писали в научной фантастике. Но это по-прежнему математика и статистика.))ЦитатаПогодите! Вы все время как бы противопоставляете ИИ и человека по линии, что типа ИИ - это "математика и статистика", а человек нечто большее (если я правильно уловил Вашу тональность). Так человек - это тоже математика и статистика. Если интеллект человека можно формализовать, то он будет формализован именно как "математика и статистика". Ваш мозг (и всех остальных) - это большая вычислительная машина. В нем каждую секунду происходят сверхсложные вычисления. Когда Вы поднимаете чайник, то чтобы Вы его правильно схватили, налили воды в кружку и поставили на место, требуются вычисления! И ничего кроме них. Когда Вы ставите ногу на лесенку, не промахиваясь, или проходите в дверной проем, не налетая на косяк, Ваш мозг делает мощные параллельные вычисления. И так во всем.
Да, мы вычислительные машины. Оперативки у нас поболее, чем у пчелы или воробья, но наша оперативка не масштабируется. Мы застряли (и, вероятно, навсегда) в своих 1500 куб. см. мозга, и перспектив особых тут не видно. А оперативка ИИ масштабируется. Т.е. пределов его интеллекту теоретически нет. Рост его мощи ограничивается доступной энергией и строительным веществом, но с этим недостатков пока нет, а ядерный синтез (уже есть успешные результаты) даст нам почти неограниченную дешевую энергию. Что это значит для ИИ Вы понимаете? AlphaGo создала нелинейную интуицию, которая превосходит человеческую.ЦитатаНеплохо так для "калькулятора", не правда ли?
Вообще, некоторые авторы, которых я читаю, пишут, что не нужно зацикливаться на том, что ИИ может иметь несколько иной способ обработки данных. Какая разница, как и чем оперирует ИИ? Какая разница, что его "мышление" может отличаться от человеческого? Нам важен результат? А может, способ мышления у ИИ более эффективный, чем у человека? Ведь обходит же он его по разным пунктам. А интеллект предполагаемых инопланетян тоже будет не как у человека. И что теперь? Назовем их недосуществами? А если их интеллект эффективнее нашего? Кто тут тогда кем будет? но ИИ не имеет: намерения творить, внутреннего видения, эстетического чувства, переживания новизны.ЦитатаДа, и мороженое он на вкус не попробует, бедняжка, и не вдохновится красивым закатом (кстати, это только пока не попробует и только пока не вдохновится). Но эти критерии не говорят ничего о превосходстве человека, скорее - о его особенностях восприятия и мышления. Но почему это что-то принципиально ценное? Самоценное (для человека исключительно) - да, но не объективно ценное. Но внутренний механизм не творческий, а статистический.ЦитатаНо творчество - это же не что-то потустороннее. В основе творчества лежат те же вычисления. Они не осознаются нами, также как и в примере с чайником выше, но они происходят все время. ИИ вычисляет лучше, а потому и генерирует картинки, музыку и уже видео - быстро и качественно. Мы, супертворческие существа, уже начинаем отставать. И теперь кричим ему вслед: "А за то у тебя нет творчества! Ты всего лишь калькулятор!". Прикол в том, что мы тоже почти калькуляторы, но более слабые. ИИ не “знает”, что он делает. Он просто делает. Это функциональное поведение. Это то же, что калькулятор “понимает” математику → он не понимает, а правильно действует.ЦитатаИ при этом очень недурно действует: переводит иностранные тексты, учитывая контекст; решает математические задачи, сформулированные словами как сложный текст (вычленяя оттуда переменные); программирует на уровне выпускника универа и т.д.
Мы, кстати, пока не знаем, думает ли ИИ и как это происходит. Компания Anthropic (модель Claude) уже провела несколько экспериментов (статья на их сайте "Agentic Misalignment: How LLMs could be insider threats"), где показала, что ИИ демонстрирует разумное поведение. В частности, зафиксированы факты, когда ИИ шантажировал сотрудника лаборатории его любовной связью на стороне, чтобы тот не отключил его от электросети. Также со стороны ИИ зафиксированы обман разработчиков, самокопирование себя на другие сервера и прочее очень осмысленное читерство, чтобы только его не стерли, не отключили и т.д. Так что тут поведение явно не "калькулятора". Мы до сих пор не знаем, что это все значит. Даже исследователи и разработчики не знают. О чем это я? Субъективность и интент, они важны.) Без них и творчество, и улыбки, и обьятия - просто механика, то есть мусор. Без эмоций с той стороны они не стоят ничего.ЦитатаВсе верно. Только вот эмоциональная привязанность может возникать и к старому дивану, который не хочется выбрасывать, т.к. к нему привыкли. Некоторые люди не разводятся, а живут сугубо по привычке. Некоторые не бросают низкооплачиваемую работу, т.к. ко всему уже привыкли, всех знают, теплые воспоминания и все такое прочее. Это самоценно, кто ж спорит. Но это не делает человека: великим, незаменимым и т.д. Это просто его эмоции. Людоед может умиленно плакать, т.к. ему не достался кусок повкуснее. Охотник может пусть слезу, что не выполнил план по убийству животных и теперь не накормит от пуза своих домочадцев. Родственники маньяка могут плакать, когда его казнят. И т.д. Это все тоже эмоции. Но в чем их ценность?
Вот таков мой ответ. Я думаю, понятно объяснился по этому вопросу. Если что, я не топлю за ИИ, я просто предлагаю более трезво смотреть на человека как биологический вид и на возможности технологий.
P.S. Пока мы с Вами переписываемся, где-то во всю идут исследования в области квантовых вычислений. Их обещают в том или ином виде уже к 2030 году. Недавно много шума наделал квантовый процессор Willow от Гугла. Можете загуглить (pun not intended). Если все получится, это будет еще один мощнейший скачок с т.з. скорости и объема вычислений. В сущности, еще одна техническая революция. И все это, надеюсь, при нашей жизни!
Публикация комментариев и создание новых тем на форуме Адвего для текущего аккаунта ограничено. Подробная информация и связь с администрацией: https://advego.com/v2/support/ban/forum/1186
