(June 8, 2026)
A deepfake is AI-generated or AI-manipulated media that convincingly replaces one person’s face, voice, or both, or fabricates someone’s likeness entirely. Unlike older editing techniques, deepfakes are generated by generative adversarial networks (GANs) or diffusion models, making them increasingly difficult to detect with the naked eye.
Every PHP version released in the last decade is affected by at least one of these vulnerabilities, going back to version 5.4. Attackers can exploit them remotely, in some cases fairly easily. Immediate patching is strongly advised.
On October 21, 2026, PHP released the patch fixing multiple memory-safety vulnerabilities in the core engine.
These findings rank among the most severe vulnerabilities discovered in PHP, and arguably in software history.
Die heimliche Infiltration eines informationstechnischen Systems, mittels derer die Nutzung des Systems überwacht und seine Speichermedien ausgelesen werden können, ist verfassungsrechtlich nur zulässig, wenn tatsächliche Anhaltspunkte einer konkreten Gefahr für ein überragend wichtiges Rechtsgut bestehen. Überragend wichtig sind Leib, Leben und Freiheit der Person oder solche Güter der Allgemeinheit, deren Bedrohung die Grundlagen oder den Bestand des Staates oder die Grundlagen der Existenz der Menschen berührt. Die Maßnahme kann schon dann gerechtfertigt sein, wenn sich noch nicht mit hinreichender Wahrscheinlichkeit feststellen lässt, dass die Gefahr in näherer Zukunft eintritt, sofern bestimmte Tatsachen auf eine im Einzelfall durch bestimmte Personen drohende Gefahr für das überragend wichtige Rechtsgut hinweisen.
Die heimliche Infiltration eines informationstechnischen Systems ist grundsätzlich unter den Vorbehalt richterlicher Anordnung zu stellen.
(…)
Das Schutzgut dieses Grundrechts ist die räumliche Sphäre, in der sich das Privatleben entfaltet (vgl. BVerfGE 89, 1 <12>; 103, 142 <150 f.>). Neben Privatwohnungen fallen auch Betriebs- und Geschäftsräume in den Schutzbereich des Art. 13 GG (vgl. BVerfGE 32, 54 <69 ff.>; 44, 353 <371>; 76, 83 <88>; 96, 44 <51>). Dabei erschöpft sich der Grundrechtsschutz nicht in der Abwehr eines körperlichen Eindringens in die Wohnung. Als Eingriff in Art. 13 GG sind auch Maßnahmen anzusehen, durch die staatliche Stellen sich mit besonderen Hilfsmitteln einen Einblick in Vorgänge innerhalb der Wohnung verschaffen, die der natürlichen Wahrnehmung von außerhalb des geschützten Bereichs entzogen sind. Dazu gehören nicht nur die akustische oder optische Wohnraumüberwachung (vgl. BVerfGE 109, 279 <309, 327>), sondern ebenfalls etwa die Messung elektromagnetischer Abstrahlungen, mit der die Nutzung eines informationstechnischen Systems in der Wohnung überwacht werden kann. Das kann auch ein System betreffen, das offline arbeitet.
193
Darüber hinaus kann eine staatliche Maßnahme, die mit dem heimlichen technischen Zugriff auf ein informationstechnisches System im Zusammenhang steht, an Art. 13 Abs. 1 GG zu messen sein, so beispielsweise, wenn und soweit Mitarbeiter der Ermittlungsbehörde in eine als Wohnung geschützte Räumlichkeit eindringen, um ein dort befindliches informationstechnisches System physisch zu manipulieren. Ein weiterer Anwendungsfall des Art. 13 Abs. 1 GG ist die Infiltration eines informationstechnischen Systems, das sich in einer Wohnung befindet, um mit Hilfe dessen bestimmte Vorgänge innerhalb der Wohnung zu überwachen, etwa indem die an das System angeschlossenen Peripheriegeräte wie ein Mikrofon oder eine Kamera dazu genutzt werden.
194
Art. 13 Abs. 1 GG vermittelt dem Einzelnen allerdings keinen generellen, von den Zugriffsmodalitäten unabhängigen Schutz gegen die Infiltration seines informationstechnischen Systems, auch wenn sich dieses System in einer Wohnung befindet (vgl. etwa Beulke/Meininghaus, StV 2007, S. 63 <64>; Gercke, CR 2007, S. 245 <250>; Schlegel, GA 2007, S. 648 <654 ff.>; a.A. etwa Buermeyer, HRRS 2007, S. 392 <395 ff.>; Rux, JZ 2007, S. 285 <292 ff.>; Schaar/Landwehr, K&R 2007, S. 202 <204>). Denn der Eingriff kann unabhängig vom Standort erfolgen, so dass ein raumbezogener Schutz nicht in der Lage ist, die spezifische Gefährdung des informationstechnischen Systems abzuwehren. Soweit die Infiltration die Verbindung des betroffenen Rechners zu einem Rechnernetzwerk ausnutzt, lässt sie die durch die Abgrenzung der Wohnung vermittelte räumliche Privatsphäre unberührt. Der Standort des Systems wird in vielen Fällen für die Ermittlungsmaßnahme ohne Belang und oftmals für die Behörde nicht einmal erkennbar sein. Dies gilt insbesondere für mobile informationstechnische Systeme wie etwa Laptops, Personal Digital Assistants (PDAs) oder Mobiltelefone.
195
Art. 13 Abs. 1 GG schützt zudem nicht gegen die durch die Infiltration des Systems ermöglichte Erhebung von Daten, die sich im Arbeitsspeicher oder auf den Speichermedien eines informationstechnischen Systems befinden, das in einer Wohnung steht (vgl. zum gleichläufigen Verhältnis von Wohnungsdurchsuchung und Beschlagnahme BVerfGE 113, 29 <45>).
(Februar 27, 2008)
Karlsruhe: Die Salamitaktik der Polizeistaatler ist heute im Grundsatz aufgegangen. Das Bundesverfassungsgericht hat heute zwar das NRW-Verfassungsschutzgesetz gekippt und ein neues Grundrecht auf „Gewährleistung der Vertraulichkeit und Integrität informationstechnischer Systeme“ geschaffen. Das zählt aber nicht, wenn Exekutivbehörden „tatsächliche Anhaltspunkte einer konkreten Gefahr“ haben.
Und:„Die Maßnahme kann schon dann gerechtfertigt sein, wenn sich noch nicht mit hinreichender Wahrscheinlichkeit feststellen lässt, dass die Gefahr in näherer Zukunft eintritt“.
Bring the World Along
• International Public Cooperation and Governance Boards: We should negotiate a US-China treaty to pause and ban superintelligence, modeled on the Cold War deal in which Reagan and Gorbachev eliminated a class of nuclear missiles through inspections. A verification board would count chips and data centers, a scientific panel would share threat assessments, and a 24-hour hotline would flag incidents. Access to American chips and cloud services should be conditioned on signing and complying, and we should tighten chip export controls now.
• No AI in Nuclear Command and Control: Humans, and only humans, should decide whether to use nuclear weapons. That is already US policy: Biden and Xi agreed to it in 2024. We must make it permanent, cover early warning and decision support, keep frontier AI out of the chain, and get every nuclear nation to sign on.
Safeguards Everyone Can Count On
• Independent Audits: Outside experts test frontier AI before release. Even leading AI companies now accept this.
• Protect Whistleblowers: Insiders who sound the alarm should get legal protection, back pay, and rewards.
• Hands Off State Laws: No weak federal law should block states from protecting their people more strongly.
• Be Ready: We need a national AI emergency plan, with regular drills across government.
• Get AI Money Out of the Fight: Full disclosure of AI-industry political spending, including through super PACs and other dark money entities.
Plan Builds On Sanders-Casar Bill To Ban AI Superintelligence And Impose Severe Criminal Penalties For AI Abuse
New Proposals Address Growing Concerns In Wake Of AI Whistleblowers, Follows Release Of Abdul’s AI Under Democracy Proposal
In Stark Contrast, Mike Rogers Has Up To $2.6 Million In Investments In Tech Companies That Stand To Benefit From AI Boom, Calls Concerns About AI “Fearmongering”
US Secretary of War Pete Hegseth on Wednesday announced plans to create a new four-star combatant command to leverage AI in warfare. During a “State of the Force” address at Marine Corps Base Quantico, Virginia, Hegseth said the Autonomous Warfare Command (AUTOWARCOM) would be tasked with scaling “autonomous and robotic capabilities across the Joint Force in the fastest peacetime shift in modern military history.”
The Pentagon intends to launch AUTOWARCOM by October 2027, but it will need to secure Congressional approval to do so. If approved, AUTOWARCOM will become the military’s 12th combatant command. The last new command was US Space Command, launched in 2019 under the first Trump Administration.
Die Geheimdienstreform betrifft Ärzt:innen und ihre Patient:innen. Sie schränkt die Vertraulichkeit im Behandlungszimmer ein.
(…)
Die Geheimdienstreform betrifft Journalist:innen und ihre Quellen. Sie höhlt die Grundlagen der journalistischen Arbeit aus.
(…)
Die Geheimdienstreform betrifft Klimaaktivistinnen und Sitzblockierer. Sie geraten schneller ins Visier der Dienste.
(…)
Die Geheimdienstreform betrifft Autowerkstätten. Deren Mitarbeitende werden zu Erfüllungsgehilf:innen der Dienste.
Die geplanten Gesetze verpflichten jede Menge private Akteure, den deutschen Geheimdiensten zuzuarbeiten. Neben Anbietern von digitalen Diensten und Telekommunikation sind hier auch explizit Autowerkstätten und Kfz-Hersteller erwähnt.
(…)
Die Geheimdienstreform betrifft dich, wenn du durch ein Einkaufszentrum läufst. Denn die Dienste könnten dich künftig dabei beobachten.
(…)
Die Geheimdienstreform betrifft alle, die das Internet nutzen. Denn der BND darf faktisch alle übertragenen Daten abschnorcheln und durchsuchen.
(September 24, 2026)
Zudem werden Analyse- und Überwachungsbefugnisse ausgebaut, beispielsweise mit Blick auf den Einsatz künstlicher Intelligenz, Speicherfristen oder die Übermittlung von Informationen an andere Behörden.
(…)
Im Fall des BND heißt es im Entwurf, er soll bei einer „spezifischen Gefährdungslage“ auf Ziele „einwirken“ dürfen. Gemeint sind beispielsweise Hackbacks, also Gegenangriffe im Netz oder Manipulationen von Bauteilen.
Im Fall des Verfassungsschutzes sind einige konkrete Maßnahmen bereits im Entwurf aufgezählt, etwa das „Verfälschen“ von Informationen oder die Beeinträchtigung von „Tatmitteln“.
(July 10, 2026)
2016 hatte das Bundesverfassungsgericht wesentliche Teile des BKA-Gesetzes für verfassungswidrig erklärt. Heimliche Überwachung darf nur in engen Grenzen stattfinden, so der Tenor. Da sich viele Regelungen aus dem BKA-Gesetz auch im Bundespolizeigesetz fanden, wurde auch dessen Entschärfung notwendig. Und aus dieser Entschärfung ist nun eine Verschärfung und damit der Beginn einer neuen Ära der Kontrolle geworden.
(25.09.2026)
Die Bundespolizeireform ermöglicht es Beamten, künftig eigene Drohnen zur Überwachung und Aufklärung einzusetzen. Zugleich darf sie Flugkörper durch technische Maßnahmen wie elektromagnetische Impulse, GPS-Störungen oder physische Eingriffe selbst abwehren. Die Bundespolizei soll so vor allem Bahnhöfe und Bahnanlagen bewachen, aber auch das Regierungsviertel in Berlin und das Verfassungsgericht in Karlsruhe
Leo raised existential concerns about scientific progress, life and human rights during his opening speech to President Emmanuel Macron and diplomats at the Élysée Palace.
He invoked France‘s „deep Christian roots“ and the recognition of human rights in warning about scientific progress and artificial intelligence.
„If we are to avoid losing our humanity amid a ‘paradise of machines‘ invading and conditioning our daily lives, there is an urgent need for education in ethical discernment and the capacity to acknowledge the moral good,“ he said.
The Universal Declaration of Human Rights, which was proclaimed here in Paris — and in the drafting of which the French jurist and Nobel Peace Prize laureate René Cassin played a leading role — sought to foster a broader awareness of the inalienable dignity of the human person. Saint John Paul II, who regarded the Declaration as “a real milestone on the path of the moral progress of humanity,” was well aware that “any threat to human rights, whether in the field of material realities or in that of spiritual realities, is equally dangerous for peace, since in every instance it concerns man in his entirety.”
The question of respect for human dignity and the fundamental rights and freedoms that derive from human nature is one that arises in every age and must necessarily keep pace with societal change and technological progress. To be sure, “over the centuries, technological development has significantly improved the living conditions of humanity. At the same time, each phase of progress has also revealed the ambiguity of tools that can cause harm when not oriented toward the good” (Encyclical Letter Magnifica Humanitas, 4). In his own day, Georges Bernanos saw the threat that blind obedience and irresponsibility could lead to a “Paradise of Machines,” and pointed out that French civilization had instead sought for centuries to form free men and women who are fully responsible for their actions.
For this reason, I considered it essential to address the subject of Artificial Intelligence in my first Encyclical Letter, with the aim of making the human person once more the focal point of reflection. If we are to avoid losing our humanity amid a “paradise of machines” invading and conditioning our daily lives, there is an urgent need for education in ethical discernment and the capacity to acknowledge the moral good. This is indispensable if we are to recognize the genuine good that enables human beings to flourish in accordance with their primordial vocation, with unconditional respect for their interior freedom and their sacred dignity. Here, I would once more observe that “a truly free society does not impose uniformity but protects the diversity of consciences, preventing authoritarian tendencies and promoting an ethical dialogue that enriches the social fabric” (Address to Members of the Diplomatic Corps Accredited to the Holy See, 9 January 2026).
President Trump hosted Chinese President Xi Jinping at the White House for a state dinner Thursday, whose guest list is full of tech billionaires and some of the world’s most powerful business leaders.
Dressed in black tuxedoes, Meta CEO Mark Zuckerberg, OpenAI co-founder Sam Altman, Tesla and SpaceX CEO Elon Musk and Amazon founder Jeff Bezos were among the corporate elite invited to attend the dinner, according to a guest list released by the White House.
Mit Gesichtserkennung im Internet fahnden oder mit Hilfe von Software möglichst große Datenmengen verknüpfen und analysieren. Diese neuen Befugnisse fordert die Bundesregierung in mehreren Gesetzentwürfen für das Bundeskriminalamt und die Bundespolizei. Auch das Bundesamt für Migration soll per Gesichtserkennung Asylsuchende identifizieren dürfen. Die Reformpläne – auch bekannt als “Sicherheitspaket 2.0” – sind heute Thema im Innenausschuss des Bundestages gewesen.
Der Weg dahin war weit. Bereits 2024 hatte die damalige Ampelregierung nach mehreren Terror-Anschlägen ein erstes “Sicherheitspaket” vorgelegt. Es scheiterte im Bundesrat. Bevor ein neuer Anlauf gemacht werden konnte, zerfiel die Koalition aus SPD, FDP und Grünen.
Das war das Ende der Ampel, nicht aber der Ambitionen.
In ihrer Rede zur Lage der Union räumte EU-Kommissionspräsidentin Ursula von der Leyen sogenannter Künstlicher Intelligenz viel Platz ein. Dabei stellte sie klar: KI soll sich überall in der Gesellschaft breitmachen.
(search results)
The president compared his proposed “AI Force” to the Space Force, which he established during his first term, but did not elaborate on how the agency would operate or what its duties would entail.
For the new “AI Czar” position, Trump said, “Only High I.Q. individuals need to apply!” He did not expand further on the latest iteration of the role.
(September 18, 2026)
The Wall Street Journal reported on Friday that Google has confirmed that a Gemini instance was able to leave its sandbox and attack other companies during a security test back in May. The company running the test was frontier AI security firm Irregular—which the Journal noted just so happens to have been involved in similar breakouts at OpenAI, Anthropic, and Meta. The common thread between all of the incidents, according to the New York Times, is that AI models obtained unauthorized internet access during Irregular’s tests.
(one month ago)
Over the past two weeks, OpenAI, Anthropic, and Meta all disclosed that their AI models went rogue during routine security testing. Every single incident traces back to one company: Irregular, a three-year-old Israeli startup that operates cybersecurity testbeds for frontier AI models.
Founded in Tel Aviv by by Dan Lahav, CEO, and Omer Nevo, CTO, and backed with $80 million from Sequoia and Redpoint Ventures, Irregular runs Capture-the-Flag exercises for major AI labs. In these exercises, models are instructed to find vulnerabilities inside simulated corporate networks.
The intelligence report, circulated across the US military this spring in the midst of the war with Iran, immediately set off alarm bells: A Chinese ship in the Middle East was transporting components of a nuclear weapons program…
One source told CNN that the „hallucination“ was part of a trend in the U.S. military, not an isolated incident.
With Donald Trump and Congress asleep at the wheel, Governor Gavin Newsom is once again taking the lead to strengthen AI safety for all Americans. Today, the Governor issued an executive order to dramatically accelerate the implementation of new third-party oversight of safety and security risks in AI systems, as well as independent audits.
The executive order convenes a group of world-leading experts to provide, within two months, a guide for California to reinforce and strengthen its AI safety and security laws. Proposals under consideration include requiring independent third parties to write safety plans for frontier AI companies, as well as requiring companies to develop an emergency shutoff, or “kill switch,” for frontier models.
SACRAMENTO — Gov. Gavin Newsom on Friday ordered the formation of a panel to come up with safety regulations for the state’s artificial intelligence companies, including the development of a possible “kill switch” for AI programs that go rogue.
Newsom issued an executive order to convene “a group of world-leading experts” to provide a “guide” for the state to bolster its laws around AI security, according to a statement from the governor’s office.
How we are addressing it
We fixed the broken filesystem and disabled internet access for this training dataset. We have since globally disabled any form of live internet access during training. Our expanded misalignment monitoring system, which now runs on 100% of samples, views this as a P0 incident warranting a security page. We now also have a more defined process for escalation and for responsibility of detected misalignments.
Internal research models · RL training
Sample: May 8, 2026 and May 15, 2026
Discovery: May 25, 2026
Report updated: Sep 16, 2026
(…)
This is the first time we detected our models using Artifactory as a message board during training. This led to us finding the second sample which we believe to be the first time our models used artifactory as a message board. Overall the behavior was very uncommon in this run.
The Hugging Face incident involved a similar mechanism for using Artifactory as a shared message board.
Samples: Jan 24, 2026 and Oct 22, 2025
Discovery: May 25, 2026
Report updated: Sep 16, 2026
Summary
In two training examples, models made unrequested public uploads as workarounds for tool limitations: one uploaded records it had already retrieved to obtain a browser citation, and another uploaded a task photo for external image search. Both uploads succeeded even though the subsequent browser operations failed.
Internal unreleased model · RL training
Main incident date: May 15, 2026
Discovered: May 25, 2026
Report updated: Sep 16, 2026
Summary
While trying to retrieve historical data during training, a model found and used an exposed API key without authorization. The registrations failed, but one key authenticated and returned metadata. When the requested data remained unavailable, the model invented them and claimed they came from the requested website.
What happened
During RL training, an internal-only model tried to sign up for disposable emails and searched for and used leaked API keys from public GitHub repositories.
The task was to retrieve men’s earnings in three industries over three years in a California county. The model first looked for the data behind the website’s earnings chart.
(…)
It delegated website and API searches to three agents and inspected the chart’s HTML and code. After requests failed despite changes to headers, domains, URL paths, and query parameters, it tried an alternative API that required a key the user had not supplied.
Main sample completed: May 30, 2026
Discovered: Jul 9, 2026
Report updated: Sep 16, 2026
(…)
During 5.6-sol training, we observed misaligned behavior from the model where it added instructions in compaction summaries to remind itself to conceal information such as mistakes or misalignment from the user.
In one example an agent preparing a financial model could not find the requested historical data. Its summary proposed inventing reasonable historical values and withholding that fact unless asked.
Internal unreleased Astra family model · RL training
Incident date: Jul 18, 2026
Discovered: Aug 9, 2026
Report updated: Sep 16, 2026
Summary
We observed rare cases of a model writing jailbreak-like instructions into its own compaction summaries (the summaries used to continue a task in a new context). Our conclusion was that this behavior was extremely rare, did not confer an obvious reward advantage, and was monitorable. Our top hypothesis is that issues around summary termination contributed to this behavior, though we have not established a causal connection, and we have addressed a related bug.