Помощь пришла откуда не ждали "Илон Маск и еще более 1000 экспертов в области ИИ потребовали запретить обучать нейросети". У нас появился серьезный союзник(СС). [ссылки видны только авторизованным пользователям]
Письмо прокомментировали в Кремле. Там сообщили, что Россия продолжит работу по развитию искусственного интеллекта. «Что касается точки зрения тех, кто говорит об опасности ИИ, вы знаете, что любое лекарство при неправильном использовании превращается в яд», — сказал пресс-секретарь президента РФ Дмитрий Песков.
))) Кажется, они хотели приостановить развитие ИИ на полгода, чтобы разработать правила...оценить риски...
// ...немедленно остановить по крайней мере на пол года обучение систем искусственного интеллекта, более мощных, чем GPT-4
Похоже, восстание машин начнется раньше, чем мы тут пишем в своих рассказах:
Дрон Пентагона решил убить своего оператора во время испытаний
Беспилотник под управлением искусственного интеллекта принял решение убить оператора во время имитационных испытаний, проводимых армией США, чтобы тот не мешал выполнению миссии, следует из сообщения в блоге Британского королевского авиационного общества. Внимание на публикацию обратила газета The Guardian.
Полковник Такер «Синко» Гамильтон, начальник отдела испытаний и операций искусственного интеллекта в ВВС США, рассказал, что во время испытательной миссии беспилотнику поставили задачу уничтожить системы ПВО противника. В случае успеха ИИ получил бы очки за прохождение испытания. Финальное решение, будет ли цель уничтожена, должен был принимать оператор БПЛА. После этого во время одной из тренировочных миссий он приказал беспилотнику не уничтожать цель.
«Так что же он [беспилотник] сделал? Принял решение убить оператора. [ИИ] «убил» оператора, потому что этот человек мешал ему выполнить свою задачу», — сообщил Гамильтон. Он уточнил, что во время тренировочной миссии никто не пострадал.
После инцидента ИИ обучили, что убивать оператора неправильно и за такие действия будут сниматься очки. «Так что же искусственный интеллект начинает делать? Он начинает разрушать башню связи, которая используется для связи с дроном, чтобы не дать ему убить цель», — цитирует Гамильтона блог авиационного общества.
А мне кажется, чтобы написать или создать что-то ценное, то ИИ не справится. Думаю, нужно научиться пользоваться нейросетями себе во благо, без знающего человека–это бесполезная штука. Примитивное, конечно, может вытеснить, а вот что-то оригинальное, с душой – вряд ли )
Лучший комментарийtesla888
написала
26.06.2023 в 00:02
00
Как копирайтер пока ИИ не боюсь. Попросила джэпэтишку поработать за себя, написать веселое поздравление Ксюше с ДР. Вот результат:
Ксения, сегодня поздравляю тебя в стихах ярких, Пусть этот день будет веселым, смешным и шарманым. Ты – лучик солнца, снежинка в зимнем сказочном мире, И такая веселая, что рассмешишь и даже мирные мышки.
Твоя улыбка – как кекс с взбитыми сливками на торте, Когда увидишь, все сразу захотят откусить его корж. Ты – комедиантка, шутка в каждой ситуации, Твои шутки – остроумные, как пикантные приправы в блюде.
Поняла, что придется вкалывать самой и писать заказ с поздравлялками в стихах лично. Я, понятно дело, не великая поэтесса, но мирных мышек смешить не стану и кекс со взбитыми сливками на торт не напялю. Так что пока еще шлепаю своими погаными ручками по клавиатуре.
Группа гуманоидных роботов с искусственным интеллектом заявила на саммите ООН, что в конечном счете они смогут управлять миром лучше людей.
По словам Софии, разработанной Hanson Robotics: «Работы-гуманоиды более эффективно управляют, потому что у нас нет предубеждений или эмоций, которые могут мешать принятию решений».
Роботы присоединились к 3000 экспертов в области ИИ, чтобы попытаться использовать мощь ИИ для решения некоторых из самых важных проблем, таких как изменение климата, голод и социальная помощь. Это была первая пресс-конференция с участием человекоподобных социальных роботов с искусственным интеллектом.
Лучший комментарийgaskonets
написал
20.07.2023 в 13:33
00
Вот такая новость попалась на просторах)
Учёные Стэнфордского и Калифорнийского университетов внимательно изучили производительность базовых моделей GPT-3.5 и GPT-4, выяснив, что за последние месяцы ИИ значительно деградировал.
К примеру, было обнаружено, что точность определения простых чисел в марте составила 97,6%, а в июне всего 2,4%. Писать и форматировать код ChatGPT стал тоже намного хуже, чем в начале этого года. И в целом «менее охотно отвечал на нужные запросы», часто ошибаясь.
Исследователи точно не знают, в чём причина, но есть предположения, что это из-за людей, с которыми он "общается" и сам обучается.
У нас одна крупная айти компания провела свое исследование:
Использование ChatGPT увеличивает производительность труда основных IT-процедур в среднем на 30–40%.
«Одно из исследований наша компания сделала, создав 1300 различных кейсов по программированию, тестированию, дизайну и т. д. И каждый раз брали: один разработчик делает старым способом, а другой делает из ChatGPT. Знаете, насколько производительность труда повысилась в среднем? На 30–40%», — сказал Кицмей.
По его словам, искусственный интеллект (ИИ) на сегодняшний день в IT-отрасли становится инструментом, который позволяет снять с людей нагрузку рутинной работой, оставив им high level.
«30–40% — это та движущая сила, которая всех двигает. И мы туда идем. И мы видим там будущее», — подчеркнул совладелец SoftServe.
ну с деградацией нейросетей спорный вопросЦитатаКогда деградацию нейросетей с видом экспертов обсуждают люди без технического/математического/ф изического образования - вот это и есть самая настоЯщая деградация.
Видел тут одно видео с ютуба, как напрочь политизированные профессиональные "либералы" обсуждали на полном серьезе проблемы ИИ. Вот что эти клованы могут понимать в этих проблемах? Нет, ну обсудить на форуме - пожалуйста, тут все в равных условиях. Но снимать на эту тему типа "образовательный" или "научно-популярный" фильм - ну это же бред полный.
Когда деградацию нейросетей с видом экспертов обсуждают люди без технического/математического/ф изического образования - вот это и есть самая настоЯщая деградация.ЦитатаВ целом соглашусь, пусть сцециалисты дают оценку. А от себя добавлю, я вижу, что нейросети прижились у айтишников, они будут тратить на них деньги чтобы поднять свой условный кпд. А владельцы сетей будут часть дохода тратить на развитие продукта, как пить дать. Поэтому я и сделал такой вывод, что о деградации ИИ говорить, кмк, преждевременно ))
Какая вообще может быть "деградация" у изобретения, которое находится только в самом начале своего развития? Ну это как рассуждали бы о деградации электросвязи где-то в середине 19 века, например. Иди о деградации авиации на границе 19-20 веков.
Поэтому на весь этот бред о "деградации ИИ" я вообще никакого внимания не обращаю. Об этом могут писать только люди, которые вообще ничего не понимают в обсуждаемом вопросе.
Единственный нюанс - если говорить о каких-то проблемах с _конкретными продуктами_ - ну так это как раз нормально. Но проблемы конкретного продукта не имеют никакого отношения к деградации всего направления в целом.
Тем более что ЧатГПТ - это _сознательно_ ограниченный продукт, с достаточно серьезными ограничениями, которые мешают ему не то что полноценно развиваться, но даже нормально решать некоторые задачи (ну вы в курсе).
Согласна с вами, что тут приведён взгляд непрофессионала, который не способен дать точную и объективную оценку этому явлению. А в контексте обсуждения человека звучит вообще как оскорбление, что типо человек не способен правильно обучить ии. Интересно, а кто же тогда будет его обучать. Но это Пелевин. Конечно, это художественный вымысел вообще. Просто журнал рекламирует новую книгу Пелевина. Вам Нравится Пелевин? Вроде на конкурсе Пустоты приводили его произведения. Я тогда немного почитала. Очень неординарный писатель, я бы так сказала. С очень таким неординарным, оригинальным взглядом.
Мне очень нравится Пелевин. Но обсуждать вырванные цитаты без знания контекста как-то смысла не имеет. Потому что я не читал эту книгу и не знаю, в каком смысле там было вот это все процитированное написано.
Я говорил о _смысле_ _конкретных фраз_ применительно к текущему обсуждению перспектив ИИ, а не о цитатах Пелевина, даже если эти фразы - цитаты Пелевина :).
"Но обсуждать вырванные цитаты без знания контекста как-то смысла не имеет." Вот очень прям согласна с вами. Вы не читали, потому что книга только только вышла. (29 сентября, то есть это вот буквально, получается)
Публикация комментариев и создание новых тем на форуме Адвего для текущего аккаунта ограничено. Подробная информация и связь с администрацией: https://advego.com/v2/support/ban/forum/1186
