Способность убеждать (ИИ -> человек) масштабируется вместе с размером LLM

Исследователи из Anthropic (создатели Claude), провели исследование, в котором показали что более большие языковые модели намного более способны к тому, что бы с помощью аргументов переубедить человека.

Более того, современные модели справляются с этим примерно так же хорошо, как человек.

Исследование проводили следующим образом:

1. Людям давали какое то утверждение и просили с ним согласиться по некоей бальной шкале (например от 0 до 10).

2. ИИ писал текст, который должен был склонить человека к тому, что бы согласиться с изначальным утверждением

3. Замеряли насколько поменялось мнение человека.

То есть уже сейчас некоторые LLM способны убедить в чем-то человека. Догадаетесь, что будет дальше с выходом новых более мощных моделей? При чем уже этим летом.

LLM будут способны не просто повторить чью-то фразу или написать красивый текст, комбинируя удачным образом токены, а достигать целей с помощью убеждений и манипуляций.

Например перевести деньги куда-то, подписать документ, купить то, что вам на первый взгляд не нужно, притворившись кем угодно, используя заложенные фишки манипуляций и маркетинговых инструментов.

Подробнее в статье

#теориясверхразума