전문가들이 과학 연구에서 AI를 사용하려는 FDA의 계획에 대해 생각하는 것은 다음과 같습니다.

이번 주 초, 미국 식품의 약물 협회 (US Food and Drug Association)의 커미셔너 인 Marty Makary 박사와 Biologics Evaluation and Research 센터 소장 인 Vinay Prasad 박사는 인공 지능을 사용하여 건강 관련 분야의 영역에서 의사 결정을 가속화하려는 FDA의 계획에 관한 미국 의료 협회 저널에 기사를 발표했습니다.

FDA에서 AI 사용이 정확히 어떻게 보일지는 여전히 결정되어야하지만, 기사는 AI가 사용될 수 있다고 언급했습니다.

• 약물과 장치의 승인을 가속화합니다
• 동물 테스트를 줄입니다
• 음식의“관련”재료를 다루십시오.

건강과 과학 세계 (그리고 그 너머)의 많은 사람들은 메인에 기반을 둔 과학자이자 과학 커뮤니케이터 인 엘리자베스 마르 니크 (Elisabeth Marnik)를 포함 하여이 움직임에 관심이 있습니다.

다른 우려도 있습니다.

“FDA의 약물 및 장치 승인 가속화 및 식품 성분 감독에 대한 AI를 탐구하려는 FDA의 움직임은 규제 혁신의 중요한 변곡점을 표시하지만, Johns Hopkins Carey School의 Lawbber School의 법률 및 윤리학 교수 인 Stacey B. Lee는 조절 혁신의 중요한 변곡점을 소개합니다.

보건 복지부는 HuffPost의 의견 요청에 즉시 응답하지 않았습니다.

아래에서 전문가들은 FDA의 AI 구현에 대한 더 많은 생각을 공유합니다.

Jessica Malaty Rivera는 전염병 전염병 인자 인 Jessica Malaty Rivera는“그들이 우리의 공중 보건 기관이 설립 한 모든 프로세스를 ‘안전성과 효능’을 보장하기 위해 거의 재 시합하는이 큰 의제에 대해 비판하고 있다고 생각하기 때문에 약간 혼란 스럽습니다.

“안전성과 효능”을 보장하면서 프로세스를 통해 빠르게 이동하는 것은 일반적으로 손을 잡지 않습니다. “그것은 당신이 두 가지를 동시에 가질 수 없다고 생각합니다.”라고 그녀는 덧붙였습니다.

로버트 F. 케네디 주니어 (Robert F. Kennedy Jr.)는 더 긴 시험을 통해 많은 백신을 넣고 싶다고 밝혔으며, FDA의 AI 사용은 백신 시험에 대한 비판을받지 못했지만“그들은 검토 시간을 단축하고 필요한 사람들에게 치료 전달을 가속화하고 싶다고 말하고있다”고 말했다.

케네디는 또한 건강 관리의“급진적 투명성”을 반복적으로 약속하지만 AI는 투명성을 위협한다고 전문가들은 말한다.

“AI를 어떻게 사용하는지 정확히 어디에서 어떻게 사용하는지에 대한 훌륭한 투명한 정보를 찾을 수 없었습니다. 그들은 검토를 위해 그것을 사용하는 것에 대해 이야기하지만 어떤 방식 으로든 이야기합니까?” Marnik이 말했다.

Lee는“법은 혁신을 금지하지는 않지만 책임을 요구합니다.

“AI 구현은 공공 신뢰를 보존하기 위해 명확한 법정 권한, 엄격한 감독 및 발표 된 방법론의 대상이되어야합니다.”라고 그녀는 덧붙였습니다.

이것은 투명성으로 돌아갑니다.

“핵심 관심사는 불투명성입니다. AI 도구, 특히 독점 또는 블랙 박스 모델은 의사 결정이 어떻게 이루어 지는지 모호하게 할 수 있습니다. 약물이 녹색이거나 식품 성분이 대중이 면밀히 조사 할 수없는 알고리즘을 기반으로 플래그가 붙어 있다면 적법 절차와 환자 안전을 침식합니다.”라고 Lee는 말했습니다. “이 움직임은 또한 중요한 구조적 질문을 제기합니다. AI 시스템이 결함이있는 승인에 기여하거나 RED FLAG를 놓친 경우, 누가 책임을 맡는가?

그녀는 현재 큰 책임 격차가 있다고 말했다.“규제 프레임 워크는 따라 잡지 않았다”고 말했다.

Malaty Rivera는 미국의 음식의“관련성”성분을보기 위해 AI를 사용하는 데있어 우려가 있습니다.

“Maha와 Marty Makary는 특히 음식의 안전에 대한 잘못된 정보를 계속 전파하고 있습니다.”라고 그녀는 말했습니다. “그들은 씨앗 오일과 같은 사람들에게 유해하지 않은 것들을 계속 악화 시켜서 아기 공식의 성분조차도 계속 잘못 표현합니다.”

그녀는 특정 음식과 특정 성분을 비방하는 데 사용되는 많은 단어는 웰니스 마케팅 특성,“비 GMO 및 유기농과 같은 것들과 쇠고기 쇠고기 및 생 우유와 같은 것을 밀어 붙이는 것”이라고 덧붙였다.

그녀는 또한 식품 규정과 관련하여 AI 시스템에 알리는 데 사용할 수있는 데이터 및 언어에 대한 우려를 표명했습니다.

“나는 식품 성분에 대한 증거 기반 결정을 내릴 수있는 이러한 결정을 담당하는 사람들을 신뢰하지 않습니다.

“우리는 또한 훈련 데이터의 편견을 고려해야합니다. AI가 역사적으로 편향된 데이터에 대해 교육을받는 경우, 예를 들어, 여성이나 색채의 커뮤니티가 저조한 임상 시험에서 승인이나 경고의 불균형을 자동화 할 위험이 있습니다.”라고 Lee는 말했습니다.

연구에 따르면 AI 자체는 편향되어 있으며 심지어 인종 차별적 고정 관념을 소비하는 것으로 알려져 있습니다.

더욱이, AI는 트럼프 행정부가 현재 과학 연구에서 금지 된 소위 “DEI 관련”단어를 어떻게 처리 할 것인가?

Malaty Rivera는“금지 된 단어가 금지 된 단어가있는 응용 프로그램이 금지라는 단어를 만들어 낸 사람들이 설계 한 사람들이 설계 한이 AI 모델을 통과 할 것인지조차 모르겠다”고 덧붙였다.

“나는 방법론을보고 싶다. 나는 그것이 더 이상 해를 끼치 지 않는 방법을보고 싶다”고 그녀는 말했다.

많은 사람들이 AI의 Leery이며, 그럴만 한 이유가 있습니다. 직업을 취하고, 표절 문제가 있으며, 개인 정보 보호 문제와 관련이 있으며, 위에서 언급했듯이 편견이있는 것으로 알려져 있습니다.

그러나 올바르게 사용하면 FDA와 일상 생활 모두 AI에 대한 전문가가 있습니다.

Lee는“식품 규제에서 특히 이것은 돌파구가 될 수 있습니다. AI는 분자 구조를 스캔하고 인간 팀이 일치 할 수없는 규모로 안전 프로파일을 평가할 수 있습니다. “그러나이 시스템은 편의가 아니라 건강의 우선 순위를 정하기 위해 설계되어야합니다.”

Marnik은“결국 AI는 물건을 간소화하고 빅 데이터 세트를 분석하는 데 도움이되는 유용한 도구가 될 것이라고 생각합니다. 그러나 연방 수준에서 사용하기 전에 실제로 올바르게 일어나고 있는지 확인하기 위해 많은 단계가 있어야한다고 생각합니다.

Malaty Rivera는 AI가 아무데도 가지 않는다고 지적했으며 수천 페이지의 정보를 검토하는 것이 유용 할 수 있지만 그 과정에서 인간을 완전히 제거하는 것은 실수 일 것입니다.

FDA에서 어떤 AI를 사용하든 공정성과 정확성을 보장하기 위해 프로세스가 마련되어야한다고 전문가들은 말합니다.

Marnik은“이것이 결국 사용하고자하는 것이라면 시스템이 실제로 작동한다고 생각할뿐만 아니라 실제로 작동하고 있으며 실제로 인간 검토 프로세스뿐만 아니라 작동하고 있음을 입증하는 과학적 프로세스가 있어야한다”고 덧붙였다.

Lee는 환자, 연구원 및 정책 입안자들에게 정보를 검토, 설명 및 공평해야한다고 언급했습니다.

“건강 관리의 AI는 단순한 기술 문제가 아니라 신뢰 문제입니다.”라고 Lee는 말했습니다.

그렇지 않으면 더 많은 사람들이 의료 시스템을 불신하게 할 수 있습니다. 그리고 불신의 수준은 이미 높았으며, 미국인의 약 3 분의 2가 의료 시설에 대한 믿음의 부족을 표현하고 있습니다.

Lee는“FDA의 AI 조종사는 건강 기관에 대한 대중의 신뢰가 이미 깨지기 쉬운 순간에옵니다.이 올바른 것을 얻는 것은 첫 번째 유명한 실패 후가 아니라 올바른 가드 레일을 구축하는 것을 의미합니다. “여기에는 독립 감사, 투명한보고, 인간 감독 및 명확한 법적 책임이 포함됩니다.”

Malaty Rivera는 FDA의 지배권에있는 사람들의 과학적 엄격함과 성실성을 믿었다면 건강과 과학에 AI의 사용이 한 가지 일 것이라고 말했다.

“그러나 나는 그렇지 않습니다. 그래서 저는 이러한 의사 결정자들이 이러한 도구를 설계 및/또는 탐색한다고 믿지 않습니다.”라고 그녀는 말했습니다.

Malaty Rivera는 또한 마하 정권하에 임명 된 사람들은 증거 기반 과학이 아닌 의제를 가지고 있다고 덧붙였다.

“의제는 건강과 건강의 대안적인 대안 버전으로, 종종 많은 유해한 잘못된 정보를 전파하고 있습니다.”라고 그녀는 말했습니다.

Marnik은 AI가 현재 엄격한 과학적 검토를 수행하거나 과학적 데이터와 관련된 제한을 찾을 수 없다고 생각합니다. 이는 의료 승인과 관련하여 FDA에 중요합니다.

Marnik은“AI는 프롬프트와 당신이주는 지시와 그에 대한 훈련만큼이나 훌륭합니다. “그래서 궁극적으로, 나는 이것이 너무 빨리 생각하며, 그들이 그것을 어떻게 사용할 계획인지 정확히 더 알고 싶습니다.”