Die Frage, ob eine "starke KI" möglich ist, eine KI mit Bewusstsein also, wird z. T. milde belächelt, z. T. aber auch als Dystopie gefürchtet. Statt wilder Spekulationen plädiert der verlinkte Bericht für einen empirisch fundierten Ansatz zum Thema KI-Bewusstsein. Bestehende KI-Systeme werden dabei im Lichte der am besten unterstützten neurowissenschaftlichen Theorien zum Bewusstsein bewertet. Aus diesen Theorien werden "Indikatoreigenschaften" des Bewusstseins abgeleitet, die es erlauben, KI-Systeme nach diesen Eigenschaften zu bewerten und zu extrapolieren, wie zukünftige Systeme sie implementieren könnten. Die Autor:innen kommen zu dem Schluss, dass zwar kein aktuelles KI-System über Bewusstsein verfügt, aber auch, dass es keine offensichtlichen technischen Hindernisse für die Entwicklung von KI-Systemen gibt, die diese Indikatoren erfüllen. Ob die Indikatoren notwendige oder (in Kombination) hinreichende Kriterien für Bewusstsein sind, bleibt für meinen Geschmack in dem Artikel zu vage. - hhp

Nobelpreisträger und Quantenphysiker Anton Zeilinger hält den Konflikt zwischen Religion und Wissenschaft für einen Scheinkonflikt. Zeilinger äußerte dies auf der Abschlussrede der diesjährigen Salzburger Hochschulwochen und hat damit nicht zuletzt auch den Präsidenten der Hochschulwochen, Erzbischof Franz Lackner beeindruckt: "Dass so ein ausgewiesener Experte, Nobelpreisträger der Physik, Gott auf akademischen Boden zitiert, das hat mich sehr berührt." Wer sich einen Eindruck verschaffen möchte, sei nicht nur auf die schriftlichen Kurzdokumentationen verwiesen, sondern v. a. auf das verlinkte 5-minütige Video mit zahlreichen O-Tönen, auch von Zeilinger.

Zeilinger fragt darin: "Woher kommen die Naturgesetze, oder woher kommen Naturkonstanten? ... Und da kann ich sagen, es ist einfach so, oder ich kann annehmen, dass es hier einen Schöpfer gibt, dass es hier einen Gott gibt, von dem das kommt." Zeilinger verleiht seiner Argumentation aber auch durch Rückgriff auf historische Größen seines Faches Autorität: "Max Planck zitiere ich jetzt: 'Für den gläubigen Menschen steht Gott am Anfang, für die Wissenschaftler am Ende all seiner Erfahrungen.'" Und als krönender Abschluss: "Und ich schließe mit einem Wort, das mir sehr am Herzen liegt, von Werner Heisenberg: 'Der erste Trunk aus dem Becher der Naturwissenschaften macht atheistisch, aber auf dem Grunde des Bechers wartet Gott.' Ich danke."

Nun, die Zitate sind schon fast inflationär gebraucht, werden dadurch aber nicht falsch! - hhp

Schon lange versucht man über Gehirn-Schnittstellen Erkenntnisse zu gewinnen, aber auch Therapien von neurologischen Erkrankungen zu entwickeln. Bisherige Elektrodeneinsätze erfordern dabei invasive chirurgische Eingriffe und können die neuronalen Netzwerke stören. Der Science-Beitrag berichtet nun von der Entwicklung einer ultraschmalen und flexiblen neuralen Blutgefäß-Sonde, die ohne Operation auskommt, minimale Immunreaktionen hervorruft und dabei hoch empfindlich ist. Das Potenzial ist bisher an Ratten erforscht worden. Wer keinen Zugriff zum Originalartikel hat (paywall) kann sich über eine Zusammenfassung bei spektrum.de (https://www.spektrum.de/news/gehirn-computer-schnittstelle-ohne-op-ins-gehirn/2178567) informieren. - hhp

Der Artikel enthält eine eingebettete Videodokumentation der Onlinekonferenz, in der Forscher der Anthropocene-Working-Group Crawford Lake, Kanada, als Kandidatenstandort für den Globalen Stratotypischen Grenzabschnitt und -punkt (GSSP) der Anthropozän-Reihe vorschlagen. - hhp

Der Artikel (mit Verweisen auf die Originalveröffentlichungen) berichtet, dass eine internationale Arbeitsgruppe den Crawford Lake in Kanada als Referenzpunkt für den Beginn des Anthropozäns vorschlägt. Dort finden sich ab 1950 deutlich erhöhte Werte des künstlichen Elements Plutonium in den Sedimenten. Plutonium aus Atomwaffentests gelte als ein globaler Marker menschlicher Aktivität. Wichtige Beiträge zur Anthropozän-Forschung kamen von Paul Crutzen, ehemals am MPI für Chemie, sowie aktuell vom MPI für Wissenschaftsgeschichte und dem neuen MPI für Geoanthropologie. Die Benennung des Anthropozäns als offizielle geologische Epoche könne die gesellschaftliche Debatte über die globalen Folgen menschlichen Handelns beleben. - hhp / claude2

ChatGPT und Verantwortung! In einem interessanten Beitrag kritisiert die Philosophin und Theologin Anna Kontriner nicht die KI-Technologie an sich, sie kommt aber zu dem Schluss: "Zu kritisieren sind die #Intransparenz, die Unkontrollierbarkeit und die Konzentration von Deutungshoheit, Macht und Geld. ... Zu viel Macht sammelt sich auf nicht nachvollziehbare Weise bei zu wenigen Instanzen. Und das sollten wir adressieren." Der Beitrag begründet dies nachvollziehbar und enthält nicht weniger interessante weiterführende Links über unterbezahlte Klick-Arbeiter und den Energiehunger der KI. Lesenswert - hhp

Die Autor:innen berichten über die sechs wichtigsten Herausforderungen und Mängel im AI Act, dem geplanten ersten umfassenden Gesetz zur Regulierung künstlicher Intelligenz (KI) weltweit. Die EU-Verordnung befasse sich nicht nur mit neuesten KI-Diensten wie Chatbots, sondern auch mit verschiedenen Anwendungsbereichen wie der Verwendung von KI in Überwachungskameras und Personalabteilungen. Die Hauptaufgabe des AI Act bestehe darin, Grenzen für den Einsatz von KI festzulegen und bestimmte Anwendungsbereiche wie Social Scoring auszuschließen. Trotz der Bemühungen gibt es jedoch mehrere Probleme und Lücken im Gesetzentwurf, die zu Diskussionen führen. Dazu gehören: biometrische Massenüberwachung; militärische und sicherheitstechnische KI-Aufrüstung, auch an EU-Außengrenzen; Rechte gegen Diskriminierung; weiche Definitionen. Das Gesetz wird derzeit noch überarbeitet, und es bleibt abzuwarten, wie diese und andere Bedenken letztendlich in der endgültigen Version des AI Act adressiert werden. - hhp, gpt4

Der Autor berichtet von der bekannten Hackerkonferenz Def Con, die bei der kommenden Veranstaltung im August ein öffentliches Event zu generativer KI durchführen wird. Dabei sollen Risiken wie Halluzinationen, Jailbreaks, Vorurteile und der Sprung in den Fähigkeiten untersucht werden. Die US-Regierungsbehörde für Wissenschaft und Technologie und die National Science Foundation unterstützen diese Bemühungen. Die Veranstaltung soll generative KI-Modelle von verschiedenen Unternehmen untersuchen. hhp

Der Artikel berichtet von einem Experiment der Dualen Hochschule Baden-Württemberg (DHBW), das feststellte, dass Studierende Künstliche Intelligenz (KI) wie ChatGPT zu unkritisch nutzen und ohne genaue Prüfung falsche Ergebnisse in ihren Arbeiten übernehmen. Bei diesem Experiment wurden Studierende beauftragt, eine wissenschaftliche Arbeit zu erstellen und dabei ChatGPT zu nutzen. Unabhängig davon, ob sie den Chatbot bereits genutzt hatten oder neu damit waren, übernahmen sie seine Fehler unreflektiert. Die Studie zeigt auch, dass die Studierenden eigentlich in der Lage sind, korrekte Informationen aus verschiedenen Quellen zu identifizieren, aber oft den Output von ChatGPT nicht ausreichend hinterfragten. Die Studienleiter betonten daher die Notwendigkeit, das kritische Denken zu fördern, da dies eine Schlüsselkompetenz des 21. Jahrhunderts sei. - hhp, gpt4