GATE показа AI срещу логически заблуди — човекът остава последната проверка

На 20 октомври 2026 г. в Институт GATE в София се проведе семинарът „From Analysis to Action“, посветен на манипулациите в информационната среда. Изследователите показаха разработки за анализ на подвеждащи аргументи и политически послания. Участниците поставиха условие пред употребата им: изводите, генерирани от изкуствен интелект, трябва да се сверяват с надеждни доказателства.

В репортажа на Dir.bg Станислав Пенков е посочен като представил инструмент за откриване на логически заблуди, а Добромир Цолов и Георги Горанов — приложение за анализ на политически наративи; директорът на GATE проф. Силвия Илиева формулира целта като практически решения, които „подкрепят информирания избор и критичното мислене“. Демонстрацията установява какви задачи са поставени пред разработките, но не дава основание всеки техен сигнал да се приема за присъда за истинността на дадена публикация.

Какво търси инструментът за логически заблуди

Логическата заблуда е проблем във връзката между основанията и извода. В политически спор това може да бъде прибързано обобщение от отделен случай, представяне на две възможности като единствен избор или атака срещу говорещия вместо отговор на аргумента му. Разпознаването на подобна конструкция е различна задача от установяването дали конкретен цитат, дата или число са верни.

Условен пример е твърдението, че щом един обществен проект е закъснял, всички проекти на същата институция са провалени. Първата част допуска фактологична проверка: има ли обявен срок и кога действително е приключила работата. Втората част прави извод за множество други проекти, за които изречението не дава данни. Дори закъснението да е потвърдено, общото заключение остава необосновано без допълнителни доказателства.

Тази разлика е важна за смисъла на автоматичния сигнал. Система може да насочи вниманието към прехода от единичния факт към широкото заключение, но това не установява дали първоначалният факт е верен. Възможен е и обратният случай: аргументът да е логически последователен, а данните, върху които стъпва, да са неверни. Тогава проверката на разсъждението сама по себе си няма да открие фактологичната грешка.

Защо политическият наратив изисква по-широк контекст

Приложението за политически наративи разглежда друга единица на анализ: начина, по който отделни послания се свързват в обяснение за събитията, участниците и техните мотиви. Такова обяснение може да се повтаря с различни думи и да подбира факти, които насочват към една и съща интерпретация. Затова оценката на наратив не се изчерпва с проверка на изолирано изречение.

Условен пример са публикации, които при всяко забавено решение приписват на институция един и същ скрит мотив. Всяко забавяне може да е реално и да има собствена причина. Манипулативният ефект би дошъл от подбора на случаите и от повтарянето на недоказано обяснение за мотива. За да се прецени това, трябва да се разгледат конкретните решения, техният контекст и доказателствата за приписваното намерение.

Наративът може да съдържа едновременно проверими факти, спорни тълкувания и емоционални внушения. Ако приложение открие повтаряща се рамка, резултатът описва сходство между посланията; той не доказва автоматично, че всяко твърдение в тях е невярно или че авторите им действат координирано. Това разграничение предпазва от смесване на анализ на комуникацията с обвинение в дезинформация.

Какво остава за човешката проверка

Човешката преценка е необходима там, където сигналът трябва да се превърне в обосновано заключение. При спорен факт това означава да се установи първоначалният документ, изказване или набор от данни и да се провери дали са представени вярно. При предполагаема заблуда трябва да се види дали липсващото основание действително отсъства, или е дадено другаде в текста. При наратив въпросът включва и подбора на случаите.

Контекстът може да промени значението на едни и същи думи. Ирония, цитиране на чужда позиция или съкратен откъс от по-дълъг разговор могат да изглеждат като самостоятелно внушение, ако се разглеждат без произхода си. Това не обезсмисля автоматичното откриване на подозрителни модели: то определя къде е полезно да се насочи вниманието. Доказателствата определят дали подозрението издържа проверка.

За демонстрираните разработки не са публикувани показатели за точност, условия на изпитване или резултат върху независима извадка от български публикации. Поради това няма основание да се посочва процент на надеждност или да се твърди, че инструментите могат самостоятелно да установяват дезинформация в реална употреба. Разликата между представена функция и измерена работа е особено съществена, когато резултатът може да повлияе на оценката за конкретен автор или медия.

Българската информационна среда в програмата

Програмата на GATE поставя анализа на дезинформация с големи езикови модели до отделни сесии за местните уязвимости, техники за манипулация, предварително разпознаване на подвеждащи подходи и регулиране. Тази последователност свързва демонстрациите с по-широкия въпрос как се оценяват посланията в българската публична среда. Технологичният сигнал е само една част от такъв анализ.

В дискусията за България участниците разгледаха недоверието към традиционните медии, отдръпването от публичния дебат и поляризацията онлайн. При такава среда един неточен етикет може да усили вече съществуващ спор, вместо да го изясни. Полезният резултат от двете разработки би бил по-точно посочване на спорния елемент — факт, извод или повтарящо се внушение — така че публичната оценка да стъпва върху проверими основания.

Прочетете също:

• UiPath Cartographer описва процесите — човекът запазва последната дума
• Безплатният Gemini остава само с Flash-Lite от 9 октомври
• ЕС потвърди кода за AI съдържание — законовият етикет остава задължителен