Når kompleksiteten i AI overskrider menneskers evne til å forstå hvordan den fungerer, kan heller ikke konsekvensene av bruken forstås. Technocrats skaper fordi de kan, med liten hensyn til sikkerhet eller konsekvens. Det vil komme tid at pluggen må trekkes, og tilbakestille hele systemet til menneskelig kontroll. ⁃ TN Editor
Kunstig intelligens vil omforme finansverdenen i løpet av det neste tiåret eller så ved å automatisere investeringer og andre tjenester - men det kan også innføre problematiske systematiske svakheter og risikoer, i henhold til en ny rapport fra World Economic Forum (WEF).
Rapporten konkluderer med intervjuer med dusinvis av ledende økonomiske eksperter og bransjeledere, og konkluderer med at kunstig intelligens vil forstyrre industrien ved å la tidlige adoptere outmaneuver konkurrenter. Det antyder også at teknologien vil skape mer praktiske produkter for forbrukere, for eksempel sofistikerte verktøy for å styre personlig økonomi og investeringer.
Men mest bemerkelsesverdig peker rapporten på potensialet for store finansinstitusjoner til å bygge maskinlæringsbaserte tjenester som lever i skyen og får tilgang til av andre institusjoner.
"Dynamikken i maskinlæring skaper et sterkt incentiv til å knytte nettverket til back office," sier hovedforfatteren til rapporten, Jesse McWaters, som leder AI i Financial Services Project på World Economic Forum. "En mer nettverksverden er mer sårbar for sikkerhetsrisikoer, og den skaper også konsentrasjonsrisiko."
Med andre ord, økonomiske systemer som inkluderer maskinlæring og som er tilgjengelig via skyen av mange forskjellige institusjoner, kan presentere et saftig mål for hackere og et enkelt poeng av systemisk svikt.
Wall Street tar allerede raskt i bruk maskinlæring, teknologien i sentrum av den kunstige intelligensen. Finansfirmaer har generelt mye data og rikelig med insentiv til å innovere. Hedgefond og banker ansetter AI-forskere så raskt de kan, og finansnæringen eksperimenterer med automatisering av kontoret på en stor måte. Automatisering av høyfrekvent handel har allerede skapt systemiske risikoer, slik det fremheves av flere løpende handelsarrangementer, eller "flash krasjer," i de senere år.
Andrew Lo, professor ved MITs Sloan School of Management, forsker på spørsmålet om systemisk risiko i det økonomiske systemet, og han har tidligere advart at systemet som helhet kan være sårbart på grunn av dets rene kompleksitet.
wpDiscuz
[…] World Economic Forum: AI kan føre til kollaps av det globale finansielle systemet (technocracy.news) […]