В понеделник това беше най-добрият модел на пазара. До четвъртък го нямаше никъде.
Наскоро един от най-силните AI модели беше изтеглен от публичен достъп само дни след премиерата си, по разпореждане на регулатор. Не само за нови клиенти. За всички. Компании, които вече бяха вградили модела в продукта си и плащаха за него, се събудиха с процес, който просто беше спрял да съществува.
Няма да коментирам кой беше моделът, защо го спряха и дали е било правилно. Това е чужд проблем. Мен ме занимава нашият: колко от процесите, които изграждаме за клиентите си, биха оцелели до петък, ако техният доставчик изчезне в понеделник?
Подозирам, че честният отговор в доста екипи е „не знаем“. А това вече е отговорът.
Неудобният въпрос
Има един момент в живота на всеки технически екип, в който някой задава неудобния въпрос. „А ако този доставчик утре спре?“ И почти винаги има друг, който завърта очи. Защо да усложняваме. Работи. Бързо е. Евтино е. Защо да поддържаме абстракция, второ ниво, резервен път, при положение че този тук никога не пада.
Този тук винаги пада. Не задължително защото е лош — може да го спре регулатор, може да смени условията, може да вдигне цената трикратно, може просто да има лош ден в най-лошия възможен момент. Въпросът никога не е дали, а кога. И колко ще боли, когато се случи.
Зрелостта на един екип не се мери по това колко бързо вгражда най-новия модел. Мери се по това колко спокойно би го извадил.
Зрелостта на един екип не се мери по това колко бързо вгражда най-новия модел. Мери се по това колко спокойно би го извадил.
Моделът е сменяема част, не фундамент
Когато проектираме AI в основата на бизнес процес, тръгваме от едно допускане: моделът, който ползваме днес, няма да е моделът, който ще ползваме след година. Може да е по-добър. Може да го няма. И в двата случая смяната не бива да е проект, а конфигурация.
На практика това значи няколко скучни неща, които си струват:
Не зашиваме един-единствен model ID дълбоко в кода на десет места. Маршрутизираме през абстракционен слой — gateway — така че смяната на доставчик да е промяна в настройките, не миграция.
Имаме резервен модел, който е дефиниран и тестван, не теоретичен. „Ще се оправим, ако се наложи“ не е план. План е този, който вече сме пробвали в петък следобед, когато нищо не гори.
Знаем кои процеси са критични и кои са приятни за имане. Не всичко заслужава резервираност. Но критичното я получава, преди да я поиска.
Това струва малко повече в началото. Алтернативата струва скъпо — и винаги в най-неудачния ден.
Половин ден застраховка
Един колега веднъж изгуби половин ден, за да направи така, че да можем да сменим доставчика на модела с една промяна. Тогава ми се стори прекалено. Имахме по-важни неща. Той го направи така или иначе.
Месеци по-късно, когато на пазара се случи точно това — модел изчезна за дни — тази половин ден се оказа най-евтината застраховка, която сме плащали. Докато други екипи пишеха кризисни имейли до клиентите си, ние сменихме един ред и продължихме.
Не го разказвам, за да се похваля. Разказвам го, защото в момента, в който той го правеше, изглеждаше като загубено време. Така изглежда добрата инженерна работа точно преди да потрябва: като прекалена предпазливост.
Какво всъщност значи Trusted Advisor
Да си доверен съветник не значи да избереш най-добрия модел днес. Това го може всеки, който чете заглавия. Значи да проектираш система, която преживява деня, в който най-добрият модел изчезне — без клиентът дори да усети.
Единичната точка на отказ не пита за разрешение. Тя просто чака. Нашата работа е да не я оставяме сама.
В тази седмица научих отново нещо, което знаех: че въпросите, които звучат параноично в понеделник, обикновено са най-важните до петък. Наемаме хора, които ги задават навреме — преди да станат спешни. Ако се позна, [виж отворените мисии].