Комментарий недоступен — Аккаунт заморожен на vc.ru

Павел Комаровский

Будущее 06.04.2023

Человечество против искусственного интеллекта: может ли развитие нейросетей привести к катастрофе

История про «восстание машин» давно знакома всем любителям научной фантастики, но после взрывного роста возможностей нейросетевых языковых моделей (вроде ChatGPT) об этом риске заговорили и вполне серьезные исследователи. В этой статье мы попробуем разобраться – есть ли основания у таких опасений, или это всего лишь бред воспаленной кукухи?

Илон Маск считает риск «глобальной катастрофы из-за ИИ» реальной проблемой – так что, может быть, и вам стоит разобраться, что там и как

Читать далее

253

Аккаунт заморожен

Комментарий недоступен

20

Ответить

Павел Комаровский

Автор

Пока что ChatGPT показал, что грамотные длинные осмысленные тексты - не интеллект

Почему? Наоборот же, всё больше разговоров сейчас о том, что GPT-like структуры на удивление демонстрируют те свойства разумности, которых от них никто не ожидал особо. https://arxiv.org/abs/2303.12712

Человекам ещё не раз придётся учиться понимать то, что не является настоящим человеческим интеллектом.

Этот процесс можно при желании продолжать вечно. И в пределе вопрос будет "да, эта штука лучше нас решает все задачи, но есть ли у нее ДУША?"

Sparks of Artificial General Intelligence: Early experiments with GPT-4

Artificial intelligence (AI) researchers have been developing and refining large language models (LLMs) that exhibit remarkable capabilities across a variety of domains and tasks, challenging our understanding of learning and cognition. The latest model developed by OpenAI, GPT-4, was trained using an unprecedented scale of compute and data. In this paper, we report on our investigation of an early version of GPT-4, when it was still in active development by OpenAI. We contend that (this early version of) GPT-4 is part of a new cohort of LLMs (along with ChatGPT and Google's PaLM for example) that exhibit more general intelligence than previous AI models. We discuss the rising capabilities and implications of these models. We demonstrate that, beyond its mastery of language, GPT-4 can solve novel and difficult tasks that span mathematics, coding, vision, medicine, law, psychology and more, without needing any special prompting. Moreover, in all of these tasks, GPT-4's performance is strikingly close to human-level performance, and often vastly surpasses prior models such as ChatGPT. Given the breadth and depth of GPT-4's capabilities, we believe that it could reasonably be viewed as an early (yet still incomplete) version of an artificial general intelligence (AGI) system. In our exploration of GPT-4, we put special emphasis on discovering its limitations, and we discuss the challenges ahead for advancing towards deeper and more comprehensive versions of AGI, including the possible need for pursuing a new paradigm that moves beyond next-word prediction. We conclude with reflections on societal influences of the recent technological leap and future research directions.

11

Ответить

Владислав Пасека

Опять текст бот писал?)

4

Ответить

Ольга Васюкова

Да. А еще многие козыряют цифрами из пройденных тестов на интеллект, не подозревая, что это лишь малая часть показателя и не самая точная. Люди не познали и, вероятно, не смогут познать собственный мозг! Познать = посчитать, проанализировать, спрограммировать...

2

Ответить