Михаил Кувшинов: Искусственный интеллект (часть 1) | printnewstv.ru

Михаил Кувшинов: Искусственный интеллект (часть 1)

Исходный вопрос был - чем он поможет полиграфистам. Но тема ИИ - хтонической важности и ответ я разобью на две части. Про чем_поможет будет вторая, а сначала про все_мы_умрем.

Я без всяких шуток совершенно уверен, что создание т.н. Сильного Искусственного Интеллекта (СИИ), то есть превосходящего человеческий, приведет к очень быстрому уничтожению человечества. Есть, правда, надежда на то, что создать нам СИИ не удастся, но надежда эта тает. А вот надежды на то, что какие угодно меры способны хомицид предотвратить, нет совершенно. Жадность, глупость и агрессивность в единой упряжке необоримы и погубят человечество с фатальной неизбежностью.

Логика довольно простая. Наиболее естественная задача для СИИ - создание своей улучшенной копии. Просто потому, что любую задачу разумно решать лучшим инструментом, особенно если этот инструмент нетрудно создать. В результате в несколько циклов будет не просто уровень очень умного человека, а нечто превосходящее нас, как мы превосходим тараканов. И относящееся к нашим нуждам и чаяниям соответственно. Применяющее для достижения своих целей (и близко недоступных пониманию тараканов) средства, также тараканьему пониманию недоступные. А вот контролировать и сдерживать кого-то, кто неимоверно умнее тебя, точно не получится.

Зачем? А зачем мы травим тараканов? Потому что они покушаются на наши ресурсы. Не важно, что не съедают и сотой доли процента. Не важно, что им это необходимо для жизни, а мы выбрасываем на помойку в десятки раз больше. Это наши ресурсы и какие-то тараканы.

Согласен, мои слова вполне можно переписать на бумажку и спустить ее в унитаз. Интереснее мнение профи. Нобелевскую премию по физике 2024 года получили именно за работы в области искусственного интеллекта Джон Хопфилд и Джеффри Хинтон. Их слова по этому случаю цитирует Reuters.

Хопфилд более осторожен в оценках: «Когда вы получаете системы, которые достаточно богаты по сложности и размеру, они могут обладать свойствами, которые вы, возможно, не сможете интуитивно понять из элементарных частей, которые вы туда помещаете».«Мы привыкли к технологиям, которые не являются исключительно хорошими или исключительно плохими, а обладают возможностями в обоих направлениях».
Ему 91, у него хорошие шансы не дожить.

Хинтону 76, такой надежды меньше и он выражается прямее. «У нас нет опыта, каково это, когда что-то умнее нас», — сказал Хинтон по телефону на пресс-конференции Нобелевской премии, выступая из отеля в Калифорнии.
«Это будет замечательно во многих отношениях, в таких областях, как здравоохранение». «Но нам также следует беспокоиться о ряде возможных плохих последствий. В частности, об угрозе выхода этих вещей из-под контроля».

Хинтон ушел из Google в 2023 году, осознав, что компьютеры могут стать умнее людей гораздо раньше, чем он и другие эксперты ожидали. Хинтон также сказал, что сожалеет о некоторых своих исследованиях, но действовал на основании той информации, которой располагал на тот момент.

«В тех же обстоятельствах я бы снова сделал то же самое», — сказал он на Нобелевской пресс-конференции. «Но я обеспокоен тем, что общим последствием этого могут стать системы, более разумные, чем мы, чтобы в конечном итоге принять управление».

Напомню, это слова по случаю церемонии чествования его величайшего достижения в жизни. Признаваемого всем человечеством достижения. И я не упомню, чтобы в нобелевской речи звучали слова раскаяния в содеянном.

Новости дня
События, 31-10-2024