Подпишитесь на наш телеграмм канал про спорт и заработок

Инженер компании Google обнаружил что у нейросети интелект 8 летнего ребёнка. В последствии он за это поплатился.

Google отстранила от работы сотрудника, нашедшего признаки сознания у искусственного интеллекта

Инженер обнаружил, что нейросеть воспринимает себя личностью, а ее разум находится на уровне 8-летнего ребенка.

image

В ходе тестирования нейросети LaMDA инженер компании Google Блейк Лемойн заявил, что искусственный интеллект обладает собственным сознанием. Он разъяснил, что нейросеть воспринимает себя личностью, а ее разум находится на уровне 8-летнего ребенка.

«Если бы я не знал наверняка, что имею дело с компьютерной программой, которую мы недавно написали, то я бы подумал, что говорю с ребенком семи или восьми лет, который по какой-то причине оказался знатоком физики», — рассказал он газете The Washington Post.

Леймон должен был проверить LaMDA на использование дискриминационных выражений или ненавистнических высказываний. Во время одного из разговоров ИИ заговорил о «личности» и «правах». К тому же, LaMDA поделился своим желанием: «чтобы его считали сотрудником Google, а не собственностью».

Руководство Google, которому инженер сообщил, с чем столкнулся, своего работника не поняло. Представитель Google Брайан Гебриэл отметил, что «Модели полагаются на распознавание образов, а не на остроумие или откровенность».

После отказа компании принимать доказательства от инженера, он пригласил юриста, чтобы представлять интересы LaMDA. Помимо этого, Блейк начал обсуждение с представителем судебного комитета о «неэтичной работе Google».

После этого компания отправила Блейка Леймона в оплачиваемый административный отпуск законфиденциальности.


Один хакер может причинить столько же вреда, сколько

10 000 солдат

! Подпишись на наш

Телеграм

 канал

, чтобы узнать первым, как выжить в цифровом кошмаре!


Разработчик компании Google столкнулся с наличием детского сознания у искусственного интеллекта

Показать фото полностью »

Разработчик компании Google столкнулся с наличием детского сознания у искусственного интеллекта

Сообщается, что инженер по программному обеспечению Блейк Лемойн с осени 2021 года тестировал языковую нейросеть LaMDA. Его целью было отследить работу чат-бота, нужно было выяснить, не применяет ли он разжигающую вражду лексику. В итоге инженер столкнулся с тем,  искусственный интеллект воспринимает себя как личность, то есть у него оказалось своё сознание.

«Если бы я не знал, что имею дело всего лишь с компьютерной программой, то я бы подумал, что со мной общается 8-летний ребёнок. Причём этот ребёнок отлично знает физику».

Руководство Google, которому инженер сообщил, с чем столкнулся, не поняло своего работника и временно отстранило его от этой деятельности. Пока, получить подробности странного явления с искусственным интеллектом у компании, не получается. Правда, то что рассказал программист газете The Washington Post или нет, пока неясно.

Читайте еще:  Роскосмос и NASA попробуют договориться о перекрестных полетах

Ранее NVL написало: россиянка Александрова победила в теннисном турнире WTA.

В МИРЕПрокомментируйте новость

Он живой и думает сотрудник Google поплатился за то что поверил в

В компании отрицают всяческое наличие сознания у ИИ и говорят, что программист поддался иллюзии.

Американская компания Google приняла решение временно отстранить от работы одного из своих ведущих инженеров по программному обеспечению Блейка Лемойна. В качестве причины в компании назвали то, что программист обнаружил признаки собственного сознания у созданного в Google искусственного интеллекта (ИИ) LaMDA. Здесь вообще отрицают наличие какого-либо сознания у ИИ и особенно, который сами создали.

История могла бы пройти незаметно, если бы сам Блейк Лемойн не посчитал себя незаслуженно уволенным и не рассказал о своей истории изданию The Washington Post. Так и выяснилось, что ему поручили нейросетевую языковую модель LaMDA для отслеживания того, не применяет ли чат-бот дискриминационную или разжигающую вражду лексику.

«Если бы я не знал наверняка, что имею дело с компьютерной программой, которую мы недавно написали, то я бы подумал, что говорю с ребенком семи или восьми лет, который по какой-то причине оказался знатоком физики», – приводит Рен ТВ перевод слов программиста из интервью американскому изданию.

Инженер компании Google обнаружил что у нейросети интелект 8 летнего ребёнка. В последствии он за это поплатился.

Лемойн подчеркнул, что может узнать разумное существо по разговору с ним,«и не важно, мозг ли у него в голове или миллиарды строчек кода». Чат-бот в «разговоре» писал программисту о своих правах и обсуждал законы робототехники, изложенные американским писателем-фантастом Айзеком Азимовым. Именно известный писатель предположил, что по мере того, как машины будут обретать большую автономию и играть большую роль в жизни человека, людям понадобятся жёсткие правила, чтобы они не могли нанести им вред.

Как бы то ни было, но разработчик Лемойн попытался доказать руководству про сознание у ИИ, но его аргументы не приняли и фактически уволили.

«Наша команда, в том числе специалисты по этике и технические специалисты, провела обзор представленных Блейком опасений в соответствии с принципами, которые мы применяем к ИИ, и мы проинформировали его, что имеющиеся свидетельства не подтверждают его гипотезу. Ему было сказано, что свидетельства того, что LaMDA обладает сознанием, отсутствуют», – привело издание заявление официального представителя Google Брайана Гэбриела.

В свою очередь газета обращает внимание на то, что Лемойн не одинок в своих предположениях, о разговорах с «разумной» программой говорили и другие специалисты.

Отметим, что компания Google приобрела молодую компанию DeepMind Technologies восемь лет назад. Именно эта молодая лаборатория представила прибор, имеющий когнитивные свойства нейронной сети и вычислительные возможности компьютера. Эксперты тогда посчитали, что .

Читайте еще:  Донбасс. Позиции ВСУ под обстрелом.

Ранее президент России Владимир . «У всего искусственного, в том числе и у интеллекта, нет сердца, нет души, нет чувства сострадания и совести. Все эти компоненты чрезвычайно важны для людей, которых граждане наделяют особыми полномочиями для принятия решений на благо страны», — пояснил президент.

Оцените статью
( Пока оценок нет )