Software & Algoritmes
- Gegevens
- Hoofdcategorie: Internet en Telecom
Onderzoekers hebben verschillende kwetsbaarheden in de Terrestrial Trunked Radio (TETRA) standaard ontdekt, die wereldwijd gebruikt wordt door hulpdiensten zoals het Nederlandse C2000, alsmede militaire communicatie en de vitale infrastructuur.
Het gaat onder andere om een 'backdoor' in het algoritme voor het versleutelen van radioverkeer...
...De kwetsbaarheden die onderzoekers van securitybedrijf Midnight Blue ontdekten, en de naam TETRA:BURST kregen, maken het mogelijk voor aanvallers om versleutelde berichten te ontsleutelen en valse berichten te injecteren. Het gaat onder andere om een 'cryptografische achterdeur' in het TEA1-algoritme dat veel gebruikt wordt in de vitale infrastructuur. "Deze backdoor doorbreekt alle beveiliging van het algoritme, en maakt ontsleuteling en manipulatie van radioverkeer mogelijk", zegt Carlo Meijer van Midnight Blue.
Volgens Meijer kunnen aanvallers via de backdoor niet alleen radiocommunicatie van private beveiligingsdiensten van havens, vliegvelden en spoorwegen onderscheppen, maar kunnen ze ook dataverkeer injecteren dat gebruikt wordt voor monitoring of voor de aansturing van industriële apparatuur. "Dit kan een aanvaller potentieel gevaarlijke acties uit laten voeren, zoals het openen van schakelaars in elektrische verdeelstations of het manipuleren van spoorwegsignaleringsberichten."
Het beveiligingslek, aangeduid als CVE-2022-24402, zorgt ervoor dat de originele 80-bit key wordt teruggebracht naar een sleutellengte die binnen enkele minuten op "consumentenhardware" is te kraken.
Alles bij de bron; Security
- Gegevens
- Hoofdcategorie: Internet en Telecom
Als organisaties voor hun bedrijfsvoering kunstmatige intelligentie en algoritmes gebruiken, moeten ze uitleggen waarom ze dat doen. Daarvoor pleit de Autoriteit Persoonsgegevens.
Het gaat daarbij om bedrijven en overheden die "serieus persoonsgegevens verwerken" en die AI-systemen of algoritmes gebruiken die grote impact kunnen hebben op de levens van burgers.
De Autoriteit Persoonsgegevens (AP) zegt dat de komst van AI-chatbots en een gebrekkig inzicht in bestaande algoritmes de grootste risico's vormen. Denk daarbij aan risico's op discriminatie, kansenongelijkheid, misleiding en gebrek aan transparantie en uitleg over algoritmes.
Bijna alle organisaties in Nederland werken inmiddels met algoritmes. "Veel klanten betekent veel data van klanten in je bestanden", zegt AP-voorzitter Aleid Wolfsen. het toeslagenschandaal is het bekendste voorbeeld van een algoritme dat burgers benadeelde. Maar onlangs gingen ook DUO en het UWV ook met algoritmes de fout in.
Wolfsen denkt dat AI en algoritmes nuttig kunnen zijn, maar dat we de risico's niet moeten negeren.
Alles bij de bron; NU
- Gegevens
- Hoofdcategorie: Internet en Telecom
De inzet van algoritmes voor monitoring van het betalingsverkeer is niet zonder risico's en kan tot een 'chilling effect' leiden, zo stelt de Autoriteit Persoonsgegevens (AP) in de eerste 'Rapportage Algoritmerisico’s Nederland'.
Sinds het begin van dit jaar houdt de AP ook toezicht op het gebruik van algoritmes. In de vandaag verschenen rapportage worden de risico's van algoritmes besproken en de gevolgen die dit voor de maatschappij kunnen hebben.
Het gaat dan ook om het gebruik van algoritmes om het betalingsverkeer te monitoren. Het demissionaire kabinet presenteerde vorig jaar plannen om alle particuliere transacties boven de 100 euro gezamenlijk door banken te monitoren.
Privacy First sprak van een 'bancair sleepnet' en ook volgens de AP is dit niet zonder risico's. "Waar algoritmes ingezet worden om ongebruikelijke patronen te herkennen, bestaat ook snel het risico dat bias kan resulteren in ongewenste discriminerende effecten."
Een mogelijk gevolg is ook het optreden van een 'chilling effect'. Dit is het verschijnsel dat mensen hun gedrag aanpassen wanneer ze het gevoel krijgen in hun grondrechten te worden aangetast. Ongeacht of dit echt zo is. Ook bij het gebruik van algoritmes voor gemeentelijke sociale voorzieningen en rechtshandhaving ziet de toezichthouder de nodige risico's.
"Algoritmes en AI kunnen geweldig nuttig zijn, maar brengen ook risico’s met zich mee. Bijvoorbeeld het risico op discriminatie, oneerlijke uitkomsten, misleiding en gebrek aan transparantie en uitlegbaarheid", zegt AP-voorzitter Aleid Wolfsen.
Alles bij de bron; Security
- Gegevens
- Hoofdcategorie: Internet en Telecom
Uit onderzoek van de NOS en Nieuwsuur blijkt dat het UWV illegaal data verzamelde van uitkeringsgerechtigden. De Autoriteit Persoonsgegevens en juristen zijn kritisch op de manier waarop de uitkeringsinstantie dit deed. Er wordt zelfs gesproken over overheidssurveillance.
Voor de dataverzameling werden alle bezoekers van UWV.nl en Werk.nl gevolgd, zelfs als er geen concrete aanleiding was om dit te doen....
....Het UWV zou zelfs risico lopen op hoge boetes, van zowel de AP als de Autoriteit Consument en Markt. Het zou gaan om boetes tot ruim 20 miljoen euro. Advocaat Anton Ekker procedeerde eerder succesvol tegen andere overheidsalgoritmes en spreekt nu tegenover de NOS en Nieuwsuur over een ongerichte maatregel.
“Het punt is dat UWV een grote groep mensen volgt, waarvan het allergrootste deel geen fraude heeft gepleegd. Dat komt neer op overheidssurveillance.” De dataverzameling zou alleen kunnen als er een concreet vermoeden van overtreding is, maar volgens de landsadvocaat gebeurde het stelselmatig.
Alles bij de bron; Techzine
- Gegevens
- Hoofdcategorie: Internet en Telecom
OpenAI, het bedrijf achter de populaire AI-bot ChatGPT, moet mogelijk snel op zoek naar een team van goede advocaten. De Amerikaanse Federal Trade Commission (FTC) is een onderzoek gestart om te bekijken of OpenAI al dan niet de regels ter bescherming van consumenten heeft overtreden.
Dit blijkt uit documenten die The Washington Post heeft ingezien. OpenAI is niet erg transparant over de manier waarop gegevens worden verzameld om zijn artificial intelligence-model te trainen. De vraag daarbij is ook of de privacy van gebruikers voldoende wordt beschermd.
In het twintig pagina’s tellende document dat The Washington Post in handen kreeg, verordonneert de FTC OpenAI om gedetailleerd inzage te geven in de manier waarop het bedrijf gegevens verzamelt om het taalmodel te trainen dat aan de basis ligt van ChatGPT...
...Als blijkt dat OpenAI de regels heeft overtreden, kan het bedrijf boetes opgelegd krijgen en gedwongen worden om strikte protocollen voor gegevensbeheer te volgen. Techbedrijven als Twitter en Facebook hebben in het verleden ook dit soort maatregelen door de FTC opgelegd gekregen.
Alles bij de bron; BusinessInsider
- Gegevens
- Hoofdcategorie: Internet en Telecom
Google heeft op 1 juli het privacybeleid gewijzigd, waardoor het nu openbare data op internet kan gebruiken voor het trainen van AI-modellen. In een vorige versie wel nog gesteld dat publiek beschikbare informatie kan worden verzameld voor het trainen van de taalmodellen en ontwikkelen van features zoals Google Translate. In de nieuwste versie van het privacybeleid is deze tekst aangepast.
Er staat nu dat publiek beschikbare informatie van publiek beschikbare bronnen kan worden gebruikt voor het trainen van Googles AI-modellen en het ontwikkelen van producten zoals Bard en Cloud AI mogelijkheden.
Alles bij de bron; Security
- Gegevens
- Hoofdcategorie: Internet en Telecom
Er is weer een nieuwe versie van WhatsApp beschikbaar. In deze update wordt voornamelijk gefocust op jouw privacy, die is straks veel beter beschermd.
Met de nieuwe functies heb je straks een beter overzicht op wie je wel en niet kan bellen. Daarnaast kan je met de nieuwe update controleren of je wel de juiste privacy-instellingen hebt ingeschakeld.
Eerder voegde WhatsApp al belangrijke instellingen toe als end-to-end-encryptie en het vergrendelen van verschillende chats. Ook kan je van eenmalige foto’s op WhatsApp geen screenshot meer maken.
Alles bij de bron; Iphoned
- Gegevens
- Hoofdcategorie: Internet en Telecom
De regering moet met een duidelijk standpunt komen over de ontwikkeling van ChatGPT en de regie nemen in beleid voor generatieve ai. Nu verschuilt zij zich te veel achter de Autoriteit Persoonsgegevens (AP) en ‘holt zij hijgend’ achter de razendsnelle ontwikkelingen aan. Dat vindt Privacy First.
Belangenorganisatie Privacy First beschrijft in een overzichtsartikel de ontwikkelingen rondom ChatGPT. Daarin komen tal van onderwerpen aan bod waar de belangenorganisatie een standpunt over inneemt. Van de inmiddels teruggedraaide Italiaanse ban op ChatGPT, tot trainingsdata van het systeem, en Googles antwoord op ChatGPT: Bard. Ook wijzen de privacy-voorvechters op de lobby van grote ai-spelers rondom Europese ai-wetgeving.
Volgens Privacy First blijft de overheid teveel hangen in voorlichting via de AP en ontbreekt het aan het innemen van concrete standpunten en beleid om de razendsnelle ontwikkelingen te reguleren met ai-beleid.
Alles bij de bron; Computable
- Gegevens
- Hoofdcategorie: Internet en Telecom
Het algoritmeregister, dat de overheid transparanter moet maken, wordt een half jaar na de lancering nauwelijks ingevuld. En de informatie die er wel instaat, is niet erg toegankelijk.
In het register maken overheidsinstellingen, bijvoorbeeld gemeentes en ministeries, openbaar hoe ze tot (semi-)geautomatiseerde besluiten komen. Het algoritmegebruik door de overheid ligt onder een vergrootglas door de toeslagenaffaire, waarin dubbele nationaliteit werd meegewogen in een algoritme voor risicoanalyse van toeslagaanvragen.
Bij de lancering in december 2022 stonden er 109 algoritmes op de website. Die kwamen van instellingen die de informatie al eerder online hadden gezet. Een half jaar later zijn het er 123...
...juridisch adviseur en onderzoeker Mariette Lokin betwijfelt of het algoritmeregister meer transparantie oplevert. "Het is niet heel toegankelijk zoals het nu is opgezet." Er moet een duidelijker definitie komen van welke algoritmes erin moeten staan, vindt ook onderzoeker Iris Muis van de Data School van de Universiteit Utrecht. "Zijn dat alleen de high-impact algoritmes? En wat maakt iets tot een high-impact algoritme?"
Beide onderzoekers pleiten voor bijvoorbeeld een 'bijsluiter' bij overheidsbrieven in plaats van het register. "Je moet uitgaan van de vraag: wat willen burgers precies weten?", zegt Lokin. Het register is een generiek antwoord op die vraag, terwijl je specifieker zou moeten zijn.
"Bij elke brief die je van een overheidsinstantie krijgt, zou uitgelegd moeten worden met welke beslisregels zij tot die beslissing zijn gekomen en welke gegevens daarbij gebruikt zijn. Dan ben je echt open over de manier waarop je de wet toepast als overheid. Eigenlijk een algoritmeregister op maat."
Alles bij de bron; NOS
- Gegevens
- Hoofdcategorie: Internet en Telecom
De Autoriteit Persoonsgegevens (AP) heeft zorgen rondom de omgang met persoonsgegevens bij organisaties die generatieve AI gebruiken, zoals ChatGPT. De privacywaakhond heeft daarom aangekondigd de komende tijd verschillende acties te ondernemen. Als eerste stap is ChatGPT-maker OpenAI om opheldering gevraagd over zijn omgang met persoonsgegevens.
ChatGPT is net als andere AI-modellen getraind met data. Daarvoor zijn bijvoorbeeld data verzameld die al op het internet stonden, maar er kan ook gebruik worden gemaakt van vragen die mensen stellen. Die vragen worden dan opgeslagen en toegevoegd aan de trainingsset. Volgens de AP kunnen dergelijke data ook gevoelige en heel persoonlijke informatie bevatten, "bijvoorbeeld als iemand advies vraagt over een echtelijke ruzie of over medische zaken".
Of ChatGPT dergelijke data ook gebruikt en zo ja, op welke manier dan, is niet helemaal duidelijk. Dat wil de privacywaakhond nu weten van OpenAI.
De AP is niet de enige Europese privacytoezichthouder met vragen rondom generatieve AI. Eind mei kondigde het samenwerkingsverband van Europese privacytoezichthouders EDBP aan dat een speciale werkgroep belast wordt met de consequenties van generatieve AI voor de gevoelige persoonsgegevens van Europanen.
Alles bij de bron: AGConnect