Avoimet Chroma-tietokannat: Uusi hyökkäyspinta AI-sovelluksille

Chroma on avoimen lähdekoodin vektoritallennus - tietokanta, joka on suunniteltu mahdollistamaan LLM-chatbotien etsiä asiaankuuluvaa tietoa käyttäjän kysymykseen vastatessa - ja yksi monista teknologioista, joiden käyttö on kasvanut viimeaikaisen AI-buuminsa myötä. Kuten monet tietokannat, Chroma voidaan loppukäyttäjien toimesta konfiguroida siten, ettei siinä ole tunnistautumis- ja valtuutusmekanismeja. Kun tietokantoja, joissa ei ole tunnistautumista, altistetaan internetille, anonyymit käyttäjät voivat lukea ja jopa päivittää tietokannan tietoja, mikä voi vaarantaa tietojen luottamuksellisuuden, saatavuuden ja eheyden.

Vaikka internetiin altistuneet Chroma-tietokannat ovat paljon harvinaisempia kuin vanhemmat tietokannat, niiden määrä on kasvamassa ja ne voivat olla merkittävä tietovuotojen lähde lähitulevaisuudessa. Kun tutkimme 1170 internetiin altistunutta Chroma-tietokantaa, huomasimme, että 406, eli noin kolmannes, altistaa jonkinlaista tietoa. Näistä merkittävin vuoti yksityisiä tietoja Canva Creatorsilta, mistä olemme kirjoittaneet täällä.

Mikä on Chroma-tietokanta?

Oletetaan, että olet perustamassa chatbotia hotellisi tai ravintolasi verkkosivuille. Käyttäisit suurta kielimallia (LLM) täydentämään kysymyksiä, mutta tarvitsisit myös tietovaraston, joka on ainutlaatuinen liiketoiminnallesi, kuten aukioloajat, palvelut, osoitteesi ja muut tiedot, jotka ovat välttämättömiä verkkosivujen kävijöille.

Chroma-järjestelmässä tämäntyyppinen tieto esiintyy "asiakirjoina", jotka ovat tyypillisesti yksinkertaisia merkkijonoja, jotka sisältävät asiaankuuluvaa tietoa chatbotille. Yksi merkkijonoista saattaa olla esimerkiksi "Olemme auki joka päivä kello 9-22, 7 päivää viikossa." Kun joku kysyy chatbotiltasi, mitkä ovat aukioloaikasi, ChromaDB löytää asiakirjan, joka vastaa parhaiten kysymystä, ja luo siitä vastauksen LLM:n kautta, jotta vastaus kuulostaisi keskustelulta. Lopullinen käyttäjä saattaa saada vastauksen, kuten "Olemme auki joka päivä kello 9-22, ja odotamme innolla vierailuasi!"

Chroma-tietokantojen jakelu ilman todennusta

Kun tutkimme internetiä huhtikuussa 2025, oli 1170 internetin kautta saavutettavaa Chroma-tietokantaa. Selvittääksemme, oliko mitään tietoja vuotanut, käytimme .list_collections-metodia jokaiselle IP-osoitteelle ja sen jälkeen .get_collection saadaksemme tiedot jokaiselta kokoelmalta. Tässä tapauksessa 406 tietokantaa palautti jonkinlaista tietoa ja noin kaksi kolmasosaa palautti todennusvirheen tai ei sisältänyt lainkaan tietoja.

Jokaisella tietokannalla voi olla useita "kokoelmia", jotka ovat loogisesti erillisiä, no, kokoelmia asiakirjoista. Kokoelmien määrä per tietokanta antaa viitteitä siitä, onko niitä käytetty aktiivisesti ja missä määrin. Eniten käytetyssä tietokannassa oli 4 315 kokoelmaa, mikä varmasti tarkoittaa jonkinlaista voimakasta käyttöä. Monet tietokannat, jotka oli määritetty sallimaan anonyymin pääsyn, eivät sisältäneet merkityksellistä tietoa, mutta 60 % tietokannoista oli enemmän kuin yksi kokoelma, mikä viittaa johonkin muutokseen oletuskokoelmasta, ja 32 %:lla oli viisi tai useampi kokoelma.

Chroma-tietokantojen maantieteinen jakautuminen

Internetin näkyvillä olevia Chroma-tietokantoja isännöivien IP-osoitteiden geolokaatio antaa meille käsityksen siitä, mitkä alueet ovat eniten vaarassa väärin konfiguroinnin seurauksista. Vaikka jotkut tekoälyteknologiat ovat erityisesti käytössä Kiinassa, Chroma on enimmäkseen käytössä Yhdysvalloissa ja Euroopassa, ja sillä on myös merkittävä läsnäolo Intiassa. Jotta voisimme paremmin edustaa Euroopan maiden pitkää häntää 20 yleisimmän maan ohella, olemme sisällyttäneet yhteenlasketun määrän koko EU:lle.

Vaarat, jotka liittyvät todennaamattomaan Chroma-tietokantaan

Tietovuoto

406:sta avoimesta Chroma-instanssista, joita tutkimme, havaitsimme, että useimpia käytettiin yksinkertaiseen tutkimiseen, eikä niissä ollut paljon ainutlaatuista dataa. Kuitenkin, kuten minkä tahansa verkotetun teknologian kanssa, havaitsimme myös Chroma-palvelimia, jotka näyttivät sisältävän oikeaa dataa, joka voiman chatbot LLM:itä jossain Internetissä.

Yksi yleinen käyttötapa ChromaDB:lle näyttää olevan tietojen tarjoaminen asunto- ja hotellivuokrauksiin liittyen Intiassa ja sen ympäristössä. Useat palvelimet sisälsivät tietoja kiinteistöistä ja niiden mukavuuksista, joita verkkosivuston kävijät todennäköisesti kysyisivät. Tämä käyttötapa on järkevä Chroma:lle ja ei vuoda arkaluontoista tietoa, mutta tietokantojen tulisi olla suojattu siten, että hyökkääjät eivät pääse käsiksi tietoihin suoraan.

Toinen palvelin näytti kuuluvan e-kaupan SEO-palvelulle. Tietokannan omistaja oli täyttänyt sen asiakastukikeskustelulokeilla, ilmeisesti tavalla, joka lisäsi LLM-chatbotin tietämystä. Lisäämällä jonkun aiemman keskustelun yleisistä kysymyksistä botti saisi nyt kyseisen aiemman kokemuksen käyttöönsä vastatessaan tuleviin kysymyksiin. Tämä herättää tietenkin huolia siitä, että jos Chroma-sovellukseen olisi lisätty mitään arkaluontoista asiakastietoa, se voisi näkyä chatbotin tuleville käyttäjille. Itse asiassa olemme nähneet tämän tarkan tapauksen - yrittäessämme parantaa tukibottia syöttämällä sille oikeita käyttäjätietoja - johtaneen LlamaIndexin, toisen tekoälytekniikan, henkilötietojen vuotamiseen.

Kirjoitettavuus

Chroma-dokumentaatiossa turvallisuudesta kerrotaan, että autentikointi on oletusarvoisesti pois käytöstä. "Oletusarvoisesti Chroma ei vaadi autentikointia. Sinun on aktivoitava se käsin. Jos käyttöönotat Chroman julkisessa ympäristössä, on erittäin suositeltavaa ottaa autentikointi käyttöön."

Pelkästään saatavilla olevan tiedon käyttäminen on vain yksi huolenaihe. Toinen on se, että haitallinen käyttäjä voisi muuttaa tai myrkyttää chatbotille saatavilla olevaa tietoa. On helppo kuvitella useita tilanteita, joissa tuotantobot, jossa on valtuuttamaton ja avoin ChromaDB-instanssi, voisi toimittaa väärää tai jopa vaarallista tietoa chatbotin käyttäjälle.

Hahmottaaksemme, kuinka hyökkääjä, jolla on rajaton pääsy Chroma-tietokantaan, voi käyttää sitä väärin, olemme luoneet demon, jossa lataamme harhaanjohtavia asiakirjoja, poistamme oikeita asiakirjoja ja korvaamme asiakirjoja sellaisilla, jotka ohjaavat käyttäjiä hyökkääjän hallitsemille resursseille.

Päätelmä

Kun opimme käyttämään Chroman demo-notebookia, se on todella siisti teknologia asiakirjojen hakemiseen tekoälypohjaisissa sovelluksissa. Yli tuhat internetistä saatavilla olevaa instanssia näyttää myös olevan vahvaa käyttöönottoa ja kasvua. Mutta käyttäjien on oltava tietoisia siitä, kuinka konfiguroida tietokannat turvallisesti, erityisesti koska se ei oletuksena sisällä todennusta. (Sivuhuomautuksena, Elasticsearch teki kerran saman päätöksen - jättämällä todennuksen pois periaatteella, että vastuu kuuluu verkkosovelluskerrokselle eikä tietokannalle - ja muutti myöhemmin sitä, koska Elasticsearchin tietovuotojen määrä oli korkea.) Sen lisäksi, että varmistetaan, että jotkin mekanismit estävät anonyymien käyttäjien pääsyn tietokantaan, käyttäjien tulisi myös harkita henkilötietojen (PII) tai muiden luottamuksellisten tietojen puhdistamista vähentääkseen vuodon tai rikkomuksen vaikutuksia.