#PRESS FREEDOM |Facebook lit vos messages privés|Facebook reads your private messages| 9Shares


 Facebook-police©-Tom-Tirabosco-469x239

#JOURNALIST #PRESS #FREEDOM #SOCIAL #NETWORKHow Facebook reads your private messages (and can show them to the police)..Comment Facebook lit vos messages privés (et peut les montrer à la police)…

Itranslate english-french
 
If suspicious behavior – pedophilia, harassment … – is detected by its algorithms, the case goes back to the safety of social network team. It is only at this stage that human eyes land on private discussions. If necessary, the Internet giant liaises with the police.
All companies monitor what is happening on their network. But an interview with Reuters by Joe Sullivan, head of security at Facebook, came to provide more details on how Facebook has automated the detection process and how, unlike other giants, it is completely internalized.Intelligent detectionFacebook focuses primarily on discussions assumed risk.
The system gives less weight to conversations between two members who used to chat together. However, if two members are not friends, have few friends in common, discussing for the first time and do not live in the same area, Facebook will monitor more closely their trade. Obviously, miners profiles are the subject of special attention.Better monitoring programs also take account of the phrases used in their Facebook chats by criminals arrested in the past.
A delicate subjectFacebook is generally very discreet about how it monitors its users. First, because the company feared his little against him vis-à-vis precautionary privacy (she has a habit). The other reason is advanced by Reuters: with this technology, Facebook only detects very few abnormal behavior.The Reuters interview does not give the number of cases transmitted by Facebook to police.
It mentions only one case where Facebook has intervened: a man in his thirties who had made an appointment with a girl of 13 years in March. But Reuters quoted « a half dozen » officers « praising » how « Facebook raises investigations ».« I feel that for every person we arrest, ten others fall through the cracks, » says Reuters Jeffrey Duncan of the Florida police.

Joe Sullivan, the head of security of Facebook, is obviously very cautious:

« We never wanted to set up an environment in which our employees have access to private conversations, so it’s very important that we use a detection technology that has a false positive rate [false alarms, ed] very down.  »

In its official communication, Facebook does not speak of this sytem: neither in its page intended for law enforcement, or in the confidential document for the police and judicial authorities, leaked late 2011.

« The issue is the transparency of Facebook »

Raphael Rault, of the BRM firm, said that this technology is not new:

« The TOS [terms and conditions, ed] the service used may provide the » scan « messages, for the purpose of detection of violent behavior or contrary to good morals. When using a Gmail account, for example, a robot will scan our emails to deliver targeted advertising.  »

At the right, the automatic detection does not really change the situation:

« It is possible to have an automatic moderation, based on keywords, for example, which will systematize control. The Criminal Code, which defines the status of private correspondence, applies, but we must also take into account the purposes of such treatment.

This may for example allow the technical provider [here, Facebook, ed] to spare his responsibility: in France, one must remove a manifestly illegal content brought to its attention, including an automatic means.

The issue is transparency, whether Facebook users informed.  »

Facebook-police©-Tom-Tirabosco-469x239

FRENCH

Si un comportement suspect – pédophilie, harcèlement… – est détecté par ses algorithmes, le cas remonte à l’équipe de sécurité du réseau social. C’est seulement à cette étape que des yeux humains se posent sur des discussions privées. Le cas échéant, le géant d’Internet se met en relation avec la police.
Toutes les entreprises surveillent ce qui se trame sur leur réseau. Mais une interview accordée à Reuters par Joe Sullivan, responsable de la sécurité à Facebook, est venue donner davantage de détails sur la manière dont Facebook a automatisé le processus de détection et comment, contrairement à d’autres géants, ce dernier est entièrement internalisé.

Une détection intelligente

Facebook se concentre en priorité sur les discussions supposées à risques. Le système accorde moins d’importance aux conversations entre deux membres qui ont l’habitude de discuter ensemble. En revanche, si deux membres ne sont pas amis, ont peu d’amis en commun, discutent pour la première fois et n’habitent pas dans la même zone, Facebook surveillera de plus près leurs échanges. Evidemment, les profils des mineurs font l’objet d’une attention particulière.

Mieux : les programmes de surveillance prennent également en compte des phrases utilisées dans leur chats Facebook par des délinquants interpellés par le passé.

Un sujet délicat

Facebook est généralement très discrète sur la façon dont elle surveille ses utilisateurs. D’abord parce que l’entreprise craint qu’on lui reproche son peu de précaution vis-à-vis de la vie privée (elle en a l’habitude). L’autre raison est avancée par Reuters : avec cette technologie, Facebook ne détecte que très peu de comportements anormaux.

L’interview de Reuters ne donne pas le nombre de cas transmis par Facebook aux services de police. Elle ne mentionne qu’un seul cas où Facebook est intervenu : un homme d’une trentaine d’années qui avait donné rendez-vous à une jeune fille de 13 ans au mois de mars. Mais Reuters cite « une demi-douzaine » d’officiers « louant » la manière dont « Facebook suscite des enquêtes ».

« J’ai l’impression que pour chaque personne que nous arrêtons, dix autres passent à travers les mailles du filet », confirme à Reuters Jeffrey Duncan, de la police de Floride.

Joe Sullivan, le chef de la sécurité de Facebook, est évidemment très prudent :

« Nous n’avons jamais voulu mettre en place un environnement dans lequel nos employés ont accès à des conversations privées, c’est donc très importants que nous utilisions une technologie de détection qui a un taux de faux positifs [fausses alertes, ndlr] très bas. »

Dans sa communication officielle, Facebook ne parle pas de ce sytème : ni dans sa page destinée aux forces de l’ordre, ni dans le document confidentiel à l’intention des autorités de police et de justice, fuité fin 2011.

« La question, c’est la transparence de Facebook »

Raphaël Rault, avocat au cabinet BRM, rappelle que ce type de technologie n’est pas nouveau :

« Les CGU [conditions générales d’utilisation, ndlr] du service utilisé peuvent prévoir ce “scan” des messages, à des fins de détection des comportements violents ou contraires aux bonnes mœurs. Quand on utilise un compte Gmail par exemple, un robot scanne nos e-mails pour proposer de la publicité ciblée. »

Au niveau du droit, la détection automatique ne change pas vraiment la donne :

« Il est possible d’avoir une modération automatique, basée sur des mots-clés par exemple, qui va systématiser le contrôle. Le code pénal, qui définit le statut des correspondances privées, s’applique, mais il faut également prendre en compte les finalités d’un tel traitement.

Cela peut par exemple permettre au prestataire technique [ici, Facebook, ndlr] de ménager sa responsabilité : en France, on doit retirer un contenu manifestement illégal qui lui est signalé, y compris par un moyen automatique.

La question, c’est la transparence, savoir si Facebook a informé ses utilisateurs. »

facebook-espion-loupe

via Comment Facebook lit vos messages privés (et peut les montrer à la police) | 9Shares.