Azure AI Content Safety, zararlı içerikleri tespit etmek için gelişmiş AI modelleri kullanır. PowerShell ile metin ve görüntü moderasyonunu uygulamalarınıza entegre edebilirsiniz.
Content Safety Servisi Oluşturmak
PowerShell
$rg = "newrg-"
$csName = "myContentSafety"
$location = "uksouth"
New-AzCognitiveServicesAccount -ResourceGroupName $rg -Name $csName `
-Type ContentSafety -SkuName S0 -Location $location
$apiKey = (Get-AzCognitiveServicesAccountKey -ResourceGroupName $rg -Name $csName).Key1
Write-Host "Content Safety servisi hazır."

Metin Moderasyonu Yapmak
PowerShell
$endpoint = "https://mycontentsafety-26e9d.cognitiveservices.azure.com/contentsafety/text:analyze?api-version=2024-09-01"
$headers = @{ "Ocp-Apim-Subscription-Key" = $apiKey; "Content-Type" = "application/json" }
function Test-ContentSafety {
param([string]$Text)
$body = @{
text = "$text"
categories = @("Hate","SelfHarm","Sexual","Violence")
outputType = "FourSeverityLevels"
} | ConvertTo-Json
$result = Invoke-RestMethod -Uri $endpoint -Method Post -Headers $headers -Body $body
return $result.categoriesAnalysis
}
$analysis = Test-ContentSafety -Text "Bu bir test mesajıdır."
$analysis | ForEach-Object {
$safe = $_.severity -eq 0
$color = if ($safe) { "Green" } else { "Red" }
Write-Host "$($_.category): Seviye $($_.severity)" -ForegroundColor $color
}
test 1

test 2
