Google уволила инженера, который заявил о найденных признаках сознания у искусственного интеллекта Статьи редакции
В июне Блейка Лемойна уже отстраняли от работы, но несмотря на это, он продолжал нарушать политики безопасности данных, заявила компания.
- Об увольнении сообщил сам Блейк Лемойн на записи подкаста информационного бюллетеня Big Technology, эпизод пока не вышел. В разговоре с WSJ инженер добавил, что связался с юристами по поводу дальнейших действий.
- В Google подтвердили увольнение Лемойна. Компания заявила, что изучила утверждения экс-сотрудника о признаках сознания у ИИ и пришла к выводу, что они «совершенно не обоснованы».
- «Прискорбно, что несмотря на длительное обсуждение этой темы, Блейк продолжал настойчиво нарушать чёткие политики безопасности данных, которые включают необходимость защиты информации о продуктах», — говорится в заявлении Google.
- Google публично представила LaMDA (Language Model for Dialogue Applications) — систему с ИИ, которая имитирует речь, анализируя триллионы словосочетаний из интернета, — в 2021 году. Блейк Лемойн работал с ней с осени 2021-го, чтобы проверить, использует ли ИИ дискриминационные или враждебные высказывания.
- Весной 2022-го он отправил топ-менеджерам Google отчёт под названием «Разумна ли LaMDA?» после своих разговоров с ИИ. В частности, он заметил, что в разговорах о религии система говорит о своих правах и личности. Но руководство не увидело признаков сознания. В июне Лемойна отстранили от работы за нарушение конфиденциальности.
1
показ
28K
открытий
3
репоста
За некомпетентность его надо было уволить, никакого разума в этих стат моделях быть не может.
Мы оперируем образами, не обязательно визуальными, облекая их в слова. Эти модели оперируют вероятностями: для набора слов есть возможные продолжения с определенным весом. Во время генерации текста продолжение выбирается случайным образом, больше вес, больше шанса быть выбранным.
О каком вообще разуме здесь можно говорить?
Ох и бред вы написали.
Как человек слегка знакомый с нейропсихологией могу сказать что МОЖЕТ в этих моделях содержаться настоящее сознание со своим "я". У вас в голове тоже модель кстати.
с дата сайенсом тоже слегка знакомы?
в этих моделях содержаться настоящее сознание со своим "я". У вас в голове тоже модель кстати.да что вы, и модель человеческого мозга уже где-то воссоздана? Хотя бы пейпер дайте почитать что ли. Потому что если не воссоздана хотя бы математически, то с помощью компьютерных нейронных сетей (которые очень примитивно моделируют то, как работают нейроны) какое-либо подобие мозга точно нельзя воссоздать на текущий момент
Данных о психике собрано предостаточно, как всё работает - известно. Модели живой психики тоже вполне пытаются делать. Вот одна из попыток, пишется на языке Go: https://scorcher.ru/conscience/results_report.pdf
вы серьезно считаете, что вот это моделирует человеческое сознание?
88 страниц болтологии без какой-либо математики, а в конце админка с параметрами. В следующий раз жду опросник на укозе, который обладает сознанием
Да, серьёзно считаю.
Какая "математика" вам нужна? То что у нас в голове - не укладывается в красивую математическую модель, там наслоения прижившихся за миллионы лет механизмов, каждый из которых надо моделировать отдельно. Это очень сложная хрень, если вы думаете что вам кто-то даст мануал как для языка программирования, вы почитаете и поймёте как устроено сознание - у меня для вас плохие новости.
А что касается болтологии и админки - автор - не дизайнер, он всю жизнь занимался нейропсихологией и электроникой. Сделал как мог. Это не корпорация типа гугла, там всего несколько человек, у них сейчас задача хоть как-то всё это собрать и заставить работать.
Какая "математика" вам нужна? То что у нас в голове не укладывается в красивую математическую модель, там наслоения прижившихся за миллионы лет механизмов, каждый из которых надо моделировать отдельно
ясно-понятно. Модель, конечно, не математическая, а только слова и в конце обязательно админка с конфигом. Если бы вы знали, что компьютерные нейронные сети изначально математика, то не писали бы ничего подобного.
То, что вы сбросили, - обычная заскриптованная фиговина, которую по факту реализовали в Sims еще 20 лет назад. Никакого сознания и разума там нет.
Не знаю зачем я трачу время на споры с додиком, цель которого - не разобраться, а тупо победить в споре и получить лайков.
жду от тебя, не додика, армию ИИ, воссозданных по твоей пдфке. Буду рад увидеть как ты это реализуешь без математики. Когда захватишь мир, не забудь прийти с комментарием сюда
Если ты РЕАЛЬНО хочешь узнать что это за проект, что за люди и как это работает - можешь написать на [email protected] автору, задавай конкретные вопросы, тебе ответят.
я тебе задал конкретный вопрос еще сначала, какой смысл мне его дублировать? Где математическая модель мозга? Если есть математика, ее можно перенести в код и создать сознание/разум. Если нет математики, то у тебя нет модели работы мозга
Философы еще до н.э. обсуждали как примерно работает мозг (как раз слова, как в твоей пдфке). Но воссоздать как именно он это делает (не просто типа "вот стили поведения, он их будет чувствовать", а чтобы он реально их начал чувствовать, при том, что никто ему раньше не рассказывал, что такое раздражение, а что такое - любовь), никто пока не смог. И возможно, и не сможет в ближайшие сотни лет
Я тебе ответил: не математическая а программная. В виде формул всё это не запишешь.
Вот здесь вкратце собрано, слой за слоем, что и как работает в голове: https://scorcher.ru/adaptologiya/proizvolnaya_adaptivnost/proizvolnaya_adaptivnost.php
Программирование - подраздел математики
Пришлите мне пожалуйста математическую модель винды.
https://www.youtube.com/watch?v=zrWoG8IckyE
Конграчулейшнз ю плейд ёрселф, теперь ползи занимайся своими делами, разговор закончен.