Το ενδεχόμενο οικονομικής κατάρρευσης εταιρειών τεχνητής νοημοσύνης εγείρει ανησυχίες για την τύχη των ευαίσθητων προσωπικών δεδομένων των χρηστών τους, καθώς αυτά ενδέχεται να καταλήξουν στα χέρια τρίτων. Χαρακτηριστική είναι η περίπτωση της Character.ai, μιας πλατφόρμας που επιτρέπει συνομιλίες με ψηφιακούς χαρακτήρες και chatbot,