Midjourney 公司今天宣佈，因為有人濫用 Midjourney 的人工智慧影像生成工具來製造 Deep Fake，他們將停止提供免費使用 Midjourney。
Midjourney 被濫用生成假的教皇、川普照片
過去一段時間，由於 Midjourney 的 AI 影像生成工具被用於製造 Deep Fake 照片，導致 Midjourney 受到了負面的高度關注。
有國外的使用者透過 Midjourney、OpenAI 的 DALL-E 和類似的 AI 照片生成工具來製造川普被捕和教宗方濟各穿著時髦外套的偽造照片。
有許多人擔心這類的事件繼續發生可能會讓這些 AI 照片生成工具被拿來作為錯誤訊息的傳播源頭，因此，部分開發人員已經實施了嚴格的規則來防止事件發生，例如，OpenAI 禁止任何正在進行的政治事件、陰謀論和政客的影像產生。
除此之外，AI 影像生成的問題不僅僅是誤導性內容，還包括圖片被盜和公司擔心不必要的關注。
每月至少 10 美元才可以繼續玩 Midjourney
從現在起，使用者必須每月支付至少 10 美元才能繼續使用 Midjourney。
Midjourney 公司表示他們在制定內容政策方面遇到了困難，公司創始人 David Holz 表示，新的保障措施因為還不足以防止試用期間的濫用，但是為了防止類似濫用 Midjourney 產生 Deep Fake 的照片，因此決定暫時停止 Midjourney 的免費使用。
而且即便支付了每月 10 美元的訂閱費用，使用者還是要遵守使用條款，不然 Midjourney 還是會針對個案禁止使用。
▲ 如果你一次支付一年的費用可以變成每月 8 美元
AI 影像生成工具的未來
AI 影像生成技術在未來仍將廣泛使用，許多公司都在其產品中採用人工智慧藝術，包括 Midjourney、Bing Image Creator、Stable Diffusion、Dall-E….等，但是經過這類的事件後，許多提供這類服務的公司開始擔心他們的服務被濫用，因此開發人員需要更多的規則和保障措施，以確保人工智慧影像生成技術不會被濫用。
截至發文的時間點 14:00 ，我們測試 Midjourney 目前正在進行定期維護，無法使用生成影片技術。
相關文章
