AI governance за бизнеса: правилата за използване на AI, които си струва да запишете още сега
В повечето компании AI вече се използва: някой пише текстове с него, някой превежда писма, някой качва таблица с данни на клиенти, за да направи бързо резюме. Това става без правила, защото никой не е задал правила.
Докато инструментите се използваха поединично, това оставаше незабелязано. Сега положението се променя от две страни: регулацията в Европейския съюз постепенно влиза в сила, а обемът данни, които служителите подават към външни услуги, расте по-бързо, отколкото някой успява да забележи.
Уговорка веднага: конкретните ви задължения зависят от държавата, размера на компанията и това какво точно правите с AI. Проверявайте положението си с юрист. По-долу е организационната част, полезна независимо от юрисдикцията.
Защо са нужни правила, ако компанията е малка
Не заради съответствие с регламенти. Заради три конкретни риска:
- Изтичане на данни. Служител поставя списък с клиенти и телефони в чат, за да го подреди. Данните са отишли към външен доставчик и вие не знаете за това.
- Непроверена грешка. Генериран текст с измислено число отива при клиент или в оферта.
- Неясна отговорност. Когато грешката изплува, се оказва, че решението е взел модел, а отговорник не е определен.
И трите се закриват не с технология, а с договорки, записани на една страница.
Минимална политика: седем точки
| Точка | Какво фиксираме |
|---|---|
| Разрешени инструменти | Списък с услуги, които може да се ползват за работни задачи |
| Забранени данни | Какво не бива да се поставя: лични данни на клиенти, договори, пароли, финансови документи |
| Задължителна проверка | Кои резултати не тръгват без човек: всичко, което вижда клиентът |
| Разкриване | Кога съобщаваме на клиента, че текстът или отговорът са генерирани |
| Отговорник | Кой решава за нови инструменти и отговаря на въпроси |
| Дневник на употребата | Къде записваме кой инструмент за коя задача се използва |
| Преглед | Веднъж на тримесечие сверяваме списъка с реалната практика |
Това не е документ от дванадесет страници. Това е една страница, която хората ще прочетат и запомнят. Правилник, който никой не отваря, е по-лош от липсата му: създава усещане, че въпросът е закрит.
Данните са главният риск
Изтичането обикновено става не чрез пробив, а от удобство: по-бързо е да се постави цялата таблица, отколкото да се чисти от излишното.
Практическо правило, което работи по-добре от забраните: ако тези данни не бихте изпратили с имейл до външна фирма, не бива да ги поставяте във външна услуга. Формулировката е ясна без обяснения и не изисква познаване на терминология.
Какво си струва да проверите в самите услуги:
- Използват ли се данните ви за обучение и може ли това да се изключи.
- Къде физически се съхраняват данните и колко дълго.
- Има ли бизнес план с други условия за обработка.
- Какво става с историята при изтриване на профил.
Това е същата проверка на доставчик, каквато бихте направили за всяка друга услуга, получаваща данни. Разлика няма, а се прави по-рядко.
Класифициране на задачите по риск
Вместо обща забрана е по-полезно задачите да се разделят по последиците от грешка. Важи същият принцип като при AI агентите: въпросът не е дали моделът ще сгреши, а кой ще забележи.
| Ниво | Примери | Режим |
|---|---|---|
| Ниско | Чернова на текст, резюме от среща, идеи | Свободно |
| Средно | Писмо до клиент, описание на услуга, превод | Задължителен преглед от човек |
| Високо | Юридически текстове, изчисления, данни на клиенти | Само с разрешение на отговорника |
Какво да запишете днес
Ред, който ще отнеме час и ще покрие по-голямата част от риска:
- Попитайте екипа какви инструменти вече ползва. Списъкът обикновено е по-дълъг от очакваното.
- Изберете два-три от него и ги направете официални. Останалите не забранявайте демонстративно, просто спрете да ги препоръчвате.
- Напишете едно изречение за забранените данни с формулировката по-горе.
- Определете човека, при когото се отива с въпроса „това може ли“.
- Уговорете, че всичко, което вижда клиентът, се чете от човек преди изпращане.
За разкриването
Въпрос без универсален отговор: да съобщаваме ли на клиента, че текстът е генериран.
Практически ориентир: разкривайте там, където знанието би могло да промени решението на човека. Автоматичен отговор в чат – да, за това си струва да се каже направо. Чернова на оферта, която търговецът е преписал и проверил – не, това е обичаен инструмент като текстов редактор.
Границата минава не по това дали е участвал модел, а по това дали зад резултата стои човек, който отговаря за него лично.
Правилата за използване на AI сега изглеждат излишни за компания от десет души. След година ще бъдат също толкова рутинен документ, колкото политиката за пароли. По-евтино е да се напишат сега, докато се събират на една страница, отколкото после да се изяснява какви данни къде са отишли за две години без отчет.
