W handlu elektronicznym coraz częściej wykorzystuje się nowoczesne algorytmy analizujące zachowania klientów w czasie rzeczywistym. Dynamiczne ustalanie cen w sklepie, automatyczne rabaty czy personalizowane kupony to już standard nie tylko największych graczy, lecz także średnich i małych sklepów internetowych. Takie rozwiązania pozwalają lepiej zarządzać marżą, jednak rodzą istotne wyzwania prawne, szczególnie gdy algorytm podejmuje decyzje dotyczące konkretnego klienta w oparciu o profilowanie. Jak wdrożyć dynamiczny cennik zgodnie z RODO, aby uniknąć naruszeń przepisów?
Punkt styku między dynamicznym cennikiem a RODO
Kluczowy z perspektywy zgodności dynamicznego cennika z przepisami jest art. 22 unijnego Ogólnego Rozporządzenia o Ochronie Danych (RODO) – jeden z najbardziej wymagających przepisów dotyczących zautomatyzowanego podejmowania decyzji.
W praktyce wiele sklepów internetowych koncentruje się na zgodności z przepisami dotyczącymi cookies, profilowania marketingowego czy obowiązków informacyjnych, natomiast znacznie rzadziej analizuje, czy mechanizm automatycznego ustalania ceny nie prowadzi już do podejmowania decyzji wywołujących skutki prawne wobec klienta. Tymczasem niewłaściwie zaprojektowany system rabatowy może naruszać art. 22 RODO, nawet jeśli administrator nie miał takiego zamiaru.
Czym jest zautomatyzowane podejmowanie decyzji?
Według art. 22 ust. 1 RODO osoba, której dane dotyczą, ma prawo nie podlegać decyzji opierającej się wyłącznie na zautomatyzowanym przetwarzaniu, w tym profilowaniu, jeżeli decyzja ta wywołuje wobec niej skutki prawne albo w podobny sposób istotnie na nią wpływa.
Przepis obejmuje trzy elementy występujące łącznie – dochodzi do przetwarzania danych osobowych, decyzję podejmuje wyłącznie system informatyczny oraz decyzja wywołuje skutki prawne lub w podobny sposób istotnie wpływa na sytuację wobec konkretnej osoby.
Dynamiczne ustalanie cen w sklepie a RODO
Kluczowe znaczenie ma sposób działania systemu. Przykładowo, jeżeli sklep zmienia cenę produktu dla wszystkich klientów w zależności od liczby produktów w magazynie, dnia tygodnia, sezonowości, kursów walut, cen konkurencji – to algorytm nie analizuje cech konkretnej osoby, ponieważ cena jest ustalana dla całego rynku. W takim przypadku nie dochodzi do profilowania osoby fizycznej.
Sytuacja zmienia się całkowicie, gdy cena zależy od indywidualnych danych klienta. Przykładowo algorytm analizuje: historię zakupów, częstotliwość odwiedzin sklepu, lokalizację, używane urządzenie, zasobność portfela ocenianą po wcześniejszych zakupach, reakcje na promocje czy przewidywaną gotowość do zapłaty. W takiej sytuacji dochodzi do profilowania konkretnej osoby.
Profilowanie a personalizacja cen
Co istotne, RODO definiuje profilowanie jako każdą formę zautomatyzowanego przetwarzania danych osobowych polegającą na wykorzystaniu tych danych do oceny określonych czynników dotyczących osoby fizycznej. Profilowanie może służyć między innymi przewidywaniu preferencji zakupowych, sytuacji ekonomicznej, zainteresowań, wiarygodności, zachowań konsumenckich.
Jeżeli algorytm wykorzystuje wyniki profilowania do ustalenia indywidualnej ceny produktu, administrator powinien ocenić, czy sposób podejmowania takiej decyzji może prowadzić do zastosowania art. 22 RODO.
Przykład 1.
Klient od wielu miesięcy regularnie kupuje karmę dla zwierząt w tym samym sklepie internetowym. System sztucznej inteligencji rozpoznaje, że zawsze dokonuje zakupu niezależnie od ceny i automatycznie przestaje przyznawać mu rabaty, jednocześnie oferując nowym użytkownikom zniżkę wynoszącą 20%. Klient nie ma możliwości odwołania się od decyzji ani uzyskania wyjaśnienia zasad działania algorytmu. W takiej sytuacji administrator powinien przeanalizować, czy automatyczne ustalenie ceny nie stanowi decyzji opierającej się wyłącznie na zautomatyzowanym przetwarzaniu oraz czy nie wywołuje wobec klienta istotnych skutków ekonomicznych w rozumieniu art. 22 RODO.
Jakie zabezpieczenia powinien zapewnić sklep internetowy?
Najważniejsze gwarancje obejmują możliwość uzyskania interwencji człowieka, przedstawienia własnego stanowiska, zakwestionowania decyzji i otrzymania wyjaśnienia sposobu działania systemu. Oznacza to, że klient nie powinien być całkowicie uzależniony od decyzji algorytmu.
Informacja powinna jednak umożliwiać klientowi zrozumienie, dlaczego może otrzymać inną ofertę niż pozostali użytkownicy.
Zasada minimalizacji danych
Tworząc algorytmy cenowe, administrator powinien pamiętać o jednej z podstawowych zasad RODO – minimalizacji danych. Nie należy wykorzystywać informacji, które nie są rzeczywiście potrzebne do ustalenia ceny.
Szczególnie ostrożnie należy podchodzić do wykorzystywania danych o zdrowiu, danych dotyczących dzieci, informacji o sytuacji finansowej, danych geolokalizacyjnych o wysokiej dokładności, danych pozyskanych z podmiotów trzecich.
Im większa liczba analizowanych cech, tym większe ryzyko uznania procesu za ingerujący w prawa i wolności klientów.
Ocena skutków dla ochrony danych
W wielu przypadkach wdrożenie systemu dynamicznego ustalania cen będzie wymagało przeprowadzenia oceny skutków dla ochrony danych (DPIA).
Dotyczy to zwłaszcza profilowania na dużą skalę, wykorzystywania sztucznej inteligencji, systematycznej analiza zachowań użytkowników oraz podejmowania decyzji wywołujących istotne skutki ekonomiczne.
Ponadto DPIA powinna obejmować m.in. opis procesu przetwarzania, ocenę niezbędności i proporcjonalności operacji, analizę ryzyk dla praw i wolności osób oraz środki ograniczające te ryzyka.
Jak zaprojektować zgodny z RODO algorytm rabatowy i dynamiczny cennik?
Konieczne jest przyjęcie modelu privacy by design już na etapie projektowania systemu.
Aby spełnić ten wymóg, należy wdrożyć następujące rozwiązania:
- wyraźnie określić cele stosowania dynamicznych cen,
- ograniczyć zakres wykorzystywanych danych,
- oddzielić segmentację marketingową od decyzji mogących wywoływać istotne skutki wobec klienta,
- przewidzieć możliwość interwencji człowieka,
- prowadzić dokumentację sposobu działania algorytmów,
- okresowo testować system pod kątem dyskryminacji i błędów,
- zapewnić realizację praw osób, których dane dotyczą,
- regularnie weryfikować, czy model nie zaczął podejmować decyzji wyłącznie automatycznie mimo pierwotnych założeń.
Coraz większe znaczenie ma także audyt algorytmiczny, obejmujący ocenę jakości danych treningowych, kryteriów segmentacji oraz wpływu modelu na różne grupy klientów.
Relacja art. 22 RODO z przepisami o ochronie konsumentów
Zgodność z RODO nie wyczerpuje obowiązków przedsiębiorcy. W przypadku personalizowania cen należy uwzględnić również przepisy prawa konsumenckiego, w tym obowiązki informacyjne wynikające z regulacji wdrażających tzw. dyrektywę Omnibus.
Jeżeli cena została spersonalizowana na podstawie zautomatyzowanego podejmowania decyzji, konsument powinien zostać o tym poinformowany przed zawarciem umowy. Oznacza to, że przedsiębiorca powinien skoordynować obowiązki wynikające z RODO z wymogami prawa konsumenckiego, tak aby komunikaty były spójne i zrozumiałe.
Podsumowanie
Dynamiczne ustalanie cen nie jest zakazane przez RODO. Ryzyko prawne pojawia się jednak wtedy, gdy algorytm zaczyna samodzielnie podejmować decyzje dotyczące konkretnej osoby na podstawie analizy jej danych osobowych, a decyzje te wywołują skutki prawne lub w podobny sposób istotnie wpływają na jej sytuację.
Przedsiębiorca wdrażający automatyczne rabaty powinien zatem ocenić nie tylko skuteczność biznesową rozwiązania, ale też jego zgodność z art. 22 RODO. W praktyce oznacza to konieczność zbadania, czy system rzeczywiście podejmuje decyzje wyłącznie automatycznie, czy mają one odpowiednio doniosły wpływ na klienta oraz czy zapewniono wszystkie wymagane gwarancje, takie jak możliwość interwencji człowieka, zakwestionowania decyzji i uzyskania wyjaśnienia zasad jej podjęcia. Dopiero takie podejście pozwala korzystać z potencjału algorytmów cenowych bez narażania przedsiębiorcy na zarzut naruszenia przepisów o ochronie danych osobowych.
